ChatGPT è stato lanciato da OpenAI il 30 novembre 2022 ed è diventato in breve tempo uno dei prodotti tecnologici a più rapida crescita della storia. Milioni di persone lo usano per scrivere, studiare, programmare e trovare risposte. Ma come funziona ChatGPT al suo interno? Questa guida lo spiega in parole semplici.
Che cos'è ChatGPT
ChatGPT è un assistente conversazionale basato su un modello linguistico di grandi dimensioni, o LLM. GPT significa Generative Pre-trained Transformer: un modello generativo, pre-addestrato, costruito sull'architettura Transformer, presentata da ricercatori di Google nel 2017 nell'articolo Attention Is All You Need.
Passo 1: il testo diventa token
Il modello non legge le parole come noi. Il testo viene diviso in piccoli pezzi chiamati token, che possono essere una parola intera, una parte di parola o un segno di punteggiatura. Ogni token viene convertito in numeri che il modello può elaborare.
Passo 2: prevedere la parola successiva
Al centro di tutto c'è un compito facile da descrivere: dato un testo, prevedere quale token viene dopo. Il modello sceglie un token probabile, lo aggiunge al testo e ripete il processo, un token alla volta, fino a completare la risposta. L'architettura Transformer usa un meccanismo chiamato attenzione, che permette al modello di considerare tutte le parti del testo contemporaneamente per decidere che cosa è rilevante.
Passo 3: il pre-addestramento
Per imparare a prevedere bene, il modello viene addestrato su un'enorme quantità di testi. Durante l'addestramento regola miliardi di parametri interni per indovinare sempre più spesso la parola successiva. In questo processo assorbe schemi linguistici, fatti, stili e modi di ragionare presenti nei testi.
Passo 4: imparare a essere un assistente
Un modello solo pre-addestrato completa testi, ma non risponde necessariamente in modo utile. Per questo c'è una seconda fase: il modello viene perfezionato con esempi di conversazioni e con le valutazioni di persone che indicano quali risposte sono migliori. Questa tecnica è nota come apprendimento per rinforzo con feedback umano. È ciò che fa sì che ChatGPT segua le istruzioni, rifiuti richieste pericolose e risponda in forma di conversazione.
Perché ChatGPT sbaglia
Poiché il modello genera il testo più probabile e non consulta una banca dati di fatti, può produrre risposte convincenti ma sbagliate, le cosiddette allucinazioni. Ha inoltre una data limite di conoscenza, fissata dalla fine dell'addestramento, e porta informazioni aggiornate solo quando usa strumenti come la ricerca web. Per questo dati, cifre, citazioni e riferimenti vanno sempre verificati.
Che cosa fa bene ChatGPT
Riassumere e riorganizzare testi, proporre idee, spiegare concetti in modi diversi, tradurre, correggere la scrittura e aiutare nella programmazione sono compiti in cui di solito è utile, soprattutto quando la persona sa valutare il risultato.
Come usarlo meglio
Dai contesto: di' chi sei, a che cosa serve la risposta e quale formato ti aspetti. Chiedi al modello di mostrare il ragionamento o di elencare le fonti. Dividi i compiti grandi in passaggi. E considera la risposta una bozza da rivedere, non una verità pronta.
Privacy
Evita di incollare informazioni riservate, dati personali di altre persone o segreti aziendali. Controlla nelle impostazioni se le tue conversazioni possono essere usate per addestrare i modelli e usa i controlli disponibili. Le aziende dovrebbero preferire le versioni business con contratti di protezione dei dati.
Per capire le basi tecniche, leggi la nostra guida al machine learning spiegato. Per seguire le novità, consulta le notizie sull'intelligenza artificiale.