Perché l'IA inventa risposte e come verificarle
Aggiornata il
A volte un assistente di IA risponde con tono sicuro a qualcosa che è falso: una data sbagliata, una sentenza che non esiste, una fonte inventata. In gergo si parla di «allucinazioni».
Non è un guasto occasionale: dipende da come funzionano questi sistemi. Proprio per questo si può imparare a proteggersi.
Perché succede
Un modello di linguaggio produce il testo più plausibile dopo quello già scritto. Non consulta un archivio di fatti verificati e non controlla ciò che dice.
Quando conosce bene un argomento, il testo plausibile coincide di solito con quello corretto. Quando l'argomento è raro, recente o molto specifico, il modello può generare qualcosa che suona giusto senza esserlo, e lo dice con lo stesso tono.
Dove sbaglia più spesso
- Fonti e citazioni: titoli di articoli, sentenze, riferimenti normativi e link possono essere inventati.
- Numeri e date: percentuali, importi e anni precisi.
- Persone e luoghi poco noti: meno dati di addestramento, più invenzioni.
- Fatti recenti: il modello conosce solo ciò che era nei dati fino a una certa data, a meno che non abbia uno strumento di ricerca.
- Calcoli lunghi: meglio una calcolatrice.
I segnali di allarme
Diffida quando la risposta è più precisa di quanto la domanda permettesse, quando cita fonti che non riesci a trovare, quando cambia versione se ripeti la domanda o quando conferma con sicurezza una tua ipotesi sbagliata.
Un metodo in quattro mosse
- Chiedi le fonti e aprile davvero: se il link non esiste o non dice ciò che l'IA sostiene, scarta l'informazione.
- Incrocia i fatti importanti con una seconda fonte affidabile.
- Fai lavorare l'IA su un testo che le dai tu, come un documento o un articolo, e chiedile di indicare i passaggi da cui trae ogni affermazione.
- Ripeti la domanda in un modo diverso o in una nuova conversazione: se le risposte divergono, hai trovato un punto fragile.
Quando l'IA non basta
Per salute, questioni legali, fiscali o finanziarie usa l'IA per capire e per preparare le domande, ma la decisione va confermata con un professionista o con una fonte ufficiale. Quanto controllare dipende da quanto costa un errore, non da quanto è comoda la risposta.
Meno errori, non zero errori
Strumenti collegati al web, documenti forniti da te e richieste precise riducono le invenzioni, ma non le eliminano. L'atteggiamento giusto è trattare la risposta come una bozza da verificare, non come un verdetto.
Approfondisci nel libro
«Anatomia di un LLM» spiega come nasce una risposta, un token alla volta, e perché un modello può scrivere con sicurezza anche ciò che non sa. Il capitolo finale ti aiuta a leggere le promesse sui nuovi modelli senza farti abbagliare.
Scopri il libro