Un modello linguistico di grandi dimensioni, in inglese LLM, è il motore dietro molti chatbot e assistenti di scrittura. La sua funzione di base è semplice da descrivere: dato un testo, prevedere quale parola, o meglio quale frammento di parola, è più probabile che venga dopo. Ripetendo questa operazione, una parola dopo l’altra, produce frasi, paragrafi e interi documenti. Da qui nasce sia la sua potenza sia i suoi limiti.
Come impara
Durante l’addestramento il modello legge enormi quantità di testi, come libri, articoli, pagine web e codice, e corregge continuamente le proprie previsioni. Ogni volta che indovina male, aggiusta milioni o miliardi di parametri interni, cioè i numeri che regolano il suo comportamento. Con il tempo impara la struttura della lingua, la grammatica, i fatti più ricorrenti e anche molti stili di scrittura, dal tecnico al colloquiale.
Perché sembra capire
Prevedere bene il testo richiede di cogliere il significato di una frase, il contesto e le relazioni tra le parole. Una frase come «Ho lasciato la chiave sul tavolo, ma non la trovo» richiede di sapere che le chiavi si perdono, che un tavolo è un luogo e che «non la trovo» è la conseguenza del problema. È qui che nasce l’impressione di comprensione. Però resta una capacità statistica: il modello non ha un’esperienza del mondo come la nostra, e può sbagliare in modo convincente.
Le allucinazioni
Quando il modello non conosce una risposta, può produrre un testo plausibile ma falso: una data sbagliata, una citazione inventata, un riferimento inesistente. Non lo fa per mentire, ma perché continua a prevedere parole che suonano giuste. Per questo le risposte su fatti, numeri e fonti vanno sempre verificate.
Cosa non sa fare
Non ha accesso in tempo reale al mondo, né a Internet, a meno che non sia collegato a strumenti esterni. Le sue conoscenze si fermano alla data dell’addestramento, e può non sapere nulla di eventi recenti. Non ricorda le conversazioni passate, a meno che il servizio non lo preveda espressamente. E non ha intenzioni o convinzioni nel senso umano del termine.
Come usarlo bene
- Chiedi spiegazioni, riassunti e bozze, che sono compiti per cui eccelle.
- Verifica i fatti, le date e le citazioni su fonti affidabili.
- Fornisci contesto: più informazioni dai, più la risposta si adatta alla tua situazione.
- Non affidargli decisioni mediche, legali o finanziarie senza il parere di un professionista.
Un modello linguistico è uno strumento molto utile quando si conosce il suo modo di funzionare. Saperlo leggere, con i suoi punti di forza e le sue fragilità, è la vera competenza da sviluppare.