Allucinazione
Situazione in cui il modello fornisce con sicurezza informazioni false: una data inventata, una citazione, una fonte. Per questo verifica sempre i fatti.
L'allucinazione è una situazione in cui il modello fornisce con piena convinzione informazioni false: una data inventata, un libro inesistente, una citazione fabbricata o una norma legale. Non è una "bugia" - il modello non conosce il concetto di verità, genera testo statisticamente probabile, e il probabile può essere falso. Le allucinazioni sono il principale punto debole dei modelli linguistici nelle applicazioni fattuali. Le limitano il grounding e il RAG, le modalità con ricerca e la richiesta di fonti - ma nessuna tecnica le elimina completamente. Regola pratica: più importante è la decisione, più accuratamente verifica la risposta.