Quando un chatbot risponde con sicurezza a una domanda, citando una data, un numero o una fonte che poi si rivela inesistente, si parla di allucinazione. Il termine è impreciso, perché il modello non sta sognando né vedendo cose che non ci sono, ma rende l’idea: la risposta sembra plausibile perché il modello genera testo coerente, non perché controlli i fatti. Capire questo meccanismo è il primo passo per usare questi strumenti in modo sensato.
Perché succede
Il modello è addestrato a produrre testo fluido e probabile, cioè la continuazione più verosimile di quello che ha davanti. Non possiede un archivio di fatti verificati da consultare, ma una rete di relazioni statistiche tra parole. Se una domanda riguarda un dettaglio poco frequente nei dati di addestramento, o un evento molto recente, il modello non ha abbastanza esempi per distinguere il vero dal falso, e riempie il vuoto con qualcosa di verosimile. Il risultato suona bene, ed è proprio questo il problema.
Quando è più probabile
- Dettagli di nicchia: piccole località, persone poco note, prodotti secondari.
- Eventi recenti: tutto ciò che è successo dopo la data di addestramento, se il modello non consulta fonti esterne.
- Richieste di precisione: date esatte, cifre, articoli di legge con numero di comma, citazioni testuali.
- Richieste di fonti: il modello può generare riferimenti bibliografici con titolo, autore e anno plausibili ma inesistenti.
Come riconoscerle
Diffida di date, numeri precisi, citazioni, nomi di persone e riferimenti bibliografici che non puoi verificare. Sono le informazioni più facili da inventare e le più difficili da notare, perché hanno l’aspetto della competenza. Un segnale utile è la sicurezza eccessiva su un tema di nicchia: una risposta che non esita su un dettaglio poco documentato merita un controllo in più.
Cosa fare nella pratica
Chiedi al modello le fonti, poi controllale una per una: un link che non si apre o un libro che non esiste nelle biblioteche sono già un campanello d’allarme. Per i temi importanti, confronta sempre la risposta con documenti ufficiali, leggi di riferimento, pubblicazioni scientifiche o fonti primarie. Se la risposta contiene un numero che ti serve per una decisione, verificalo prima di usarlo.
Il ruolo degli strumenti di ricerca
Alcuni assistenti possono consultare il web durante la risposta e citare le fonti trovate. Questo riduce il rischio, ma non lo elimina: le fonti vanno comunque lette, perché possono essere imprecise o superate, e il modello può riassumerle male. Il collegamento a una fonte non garantisce che la frase generata corrisponda a ciò che la fonte dice.
Un atteggiamento sano
Usa il chatbot per capire un argomento, generare idee, preparare una bozza, spiegare un concetto. Per i fatti che contano, trattalo come un primo passo da verificare, non come un’autorità. La regola più utile è semplice: più una risposta è precisa e importante, più va controllata.