Cos'è un'allucinazione di un modello AI e come limitarla?

Un'allucinazione è una risposta che suona sicura e plausibile ma è falsa o non poggia su alcuna fonte: una citazione inventata, uno studio che non esiste, una data o un prezzo sbagliati. Il modello non mente di proposito. Produce la continuazione più probabile del testo e, quando non sa, spesso tira a indovinare.

In un articolo pubblicato a settembre 2025, ricercatori di OpenAI sostengono che addestramento e valutazione premiano chi tira a indovinare invece di chi ammette l'incertezza, come un esame che non dà punti per «non lo so».

Cosa riduce le allucinazioni nella pratica:

• permettere esplicitamente al modello di dire che non sa;
• fornirgli il testo di partenza e chiedere di rispondere solo in base a quello;
• con documenti lunghi, chiedere prima citazioni parola per parola e poi l'analisi;
• pretendere una fonte per ogni affermazione e scartare quelle che non ce l'hanno;
• controllare di persona nomi, numeri e date prima di pubblicare.

Ricerca web e RAG aiutano, ma spostano il problema sulla qualità delle fonti invece di risolverlo.