ChatGPT interno: come funziona davvero un'IA per tutta l'azienda
«Vorremmo un ChatGPT interno» è ormai una delle frasi che sentiamo più spesso ai primi incontri. Il senso è quasi sempre lo stesso: un assistente IA a disposizione di tutto il team, che conosca i documenti e i processi dell'azienda, e con cui nessuno debba preoccuparsi che materiale riservato finisca al fornitore sbagliato. Quasi mai è chiaro, invece, che le strade percorribili sono tre e molto diverse fra loro. Si distinguono meno per la qualità delle risposte che per impegno, costi e controllo.
Perché se ne parla
Di solito non perché qualcuno abbia deciso una strategia sull'IA, ma perché i collaboratori hanno già cominciato per conto loro. Usano strumenti di chat gratuiti con account personali, e così escono dall'azienda preventivi, contratti, dati dei clienti e codice sorgente. Il fenomeno ha un nome, shadow AI, e vietarlo non serve: l'esigenza è reale, e dove manca uno strumento approvato se ne usa uno che non lo è.
Un GPT interno, quindi, raramente nasce come progetto di innovazione. Nella maggior parte dei casi è la risposta a una falla già aperta.
Le tre strade
1. Il piano enterprise del fornitore del modello. L'avvio più rapido: attivi il piano business di un grande fornitore e ottieni la gestione degli utenti e la garanzia che i tuoi input non vengano usati per l'addestramento. Quello che non ottieni è la libertà di scelta, perché resti legato ai modelli di quell'unico fornitore, e di norma nemmeno il controllo sulla posizione dei server. A molti team basta così. Nei settori regolamentati è esattamente il punto in cui l'ufficio legale dice di no.
2. Gestirlo in proprio. I modelli open-weight sono diventati abbastanza validi da rendere praticabile un GPT interno gestito internamente. I conti però tornano di rado come sulla carta: servono capacità GPU, qualcuno che tenga aggiornati i modelli, e tutto il resto lo costruisci tu, dall'indicizzazione dei documenti all'interfaccia fino ai log. Ha senso se hai un team di piattaforma e i requisiti non lasciano margine. Costa caro se lo fai solo per la protezione dei dati.
3. Una piattaforma sui tuoi contenuti. La via di mezzo: interfaccia e gestione utenti sono già pronte, i modelli restano intercambiabili e la posizione di hosting è un'impostazione, non una caratteristica del fornitore. È la strada che abbiamo scelto con botts.ai. Ne parliamo nella pagina sull'alternativa a ChatGPT, e la panoramica dei modelli mostra quali modelli puoi scegliere e in quale paese gira ciascuno.
Cosa decide davvero se verrà usato
La scelta della strada viene di solito sopravvalutata. Che un ChatGPT interno sia ancora in uso dopo tre mesi dipende da tre aspetti molto meno appariscenti.
Deve conoscere i tuoi documenti. Un assistente che dà le stesse risposte generiche del modello pubblico non ha ragione di esistere. La differenza si vede solo quando conosce il tuo listino, il tuo manuale e il tuo archivio progetti, cioè quando dietro c'è una base di conoscenza curata. È anche il punto in cui la maggior parte dei progetti si blocca: non per il modello, ma perché le informazioni sono sparse senza ordine su cinque sistemi diversi.
La posizione di hosting va decisa consapevolmente. Non «da qualche parte in Europa», ma un dato che conosci e sai motivare. In quale paese si trovano i server, quale azienda li gestisce e a quale diritto è soggetta quell'azienda sono tre domande distinte. Le abbiamo scomposte in un articolo dedicato alla residenza dei dati. Per le aziende svizzere si aggiunge il segreto professionale, di cui parliamo nell'articolo su ChatGPT in Svizzera.
Nessun addestramento sui tuoi dati. Va garantito per contratto, e non solo dalla piattaforma ma anche dai fornitori dei modelli che stanno dietro. Come lo gestiamo è spiegato nella pagina sulla sicurezza.
Dove se ne va davvero il tempo
Sul piano tecnico un ChatGPT interno si configura in fretta. Il lavoro sta nella base di conoscenza, e lì saltano fuori domande a cui nessuno risponde volentieri: quali documenti devono entrarci? Chi lo decide? E chi li aggiorna quando in autunno cambia il listino?
Da questo dipende la qualità. Un assistente che pesca da un archivio pulito e aggiornato dà risposte utilizzabili. Lo stesso assistente puntato su una cartella con tre versioni dello stesso manuale si contraddice, e in azienda se ne accorgono nel giro di pochi giorni.
Meglio quindi partire in piccolo: un reparto, una manciata di documenti ben delimitata, un'attività che si ripete di continuo. L'inserimento dei nuovi assunti si presta bene, perché le domande sono ogni volta simili e le risposte sono già scritte da qualche parte.
Quello che nella pratica non è quasi mai il problema: la qualità del modello.
Ti stai chiedendo quale delle tre strade sia adatta alla tua azienda? Contattaci: guardiamo la tua situazione di partenza e ti diciamo onestamente se ne vale la pena.
