› Una dettagliata analisi pubblicata da MIT Technology Review evidenzia un limite strutturale dei modelli linguistici: i meccanismi con cui l'AI rifiuta le richieste pericolose sono probabilistici per loro stessa natura e, nonostante miliardi di dollari di investimenti, non offriranno mai una garanzia assoluta di sicurezza.Il punto di partenza risale al 2021, quando il team di Anthropic ha formulato il principio secondo cui i modelli dovrebbero essere utili, onesti e soprattutto innocui.
› La regola sembrava lineare: se chiedi istruzioni per costruire un ordigno, l'AI deve opporre un netto rifiuto.
› Il problema e che dire di no non e un comportamento naturale per una rete neurale.
› Addestrato su miliardi di pagine web, il sistema acquisisce un'enorme mole di nozioni sulla violenza e sui metodi per provocare danni, ma non impara spontaneamente a censurarle.Steven Adler, che ha lavorato nel team di sicurezza di OpenAI dal 2020 al 2024, ha spiegato senza mezzi termini che i modelli delle prime generazioni parlavano a ruota libera di qualsiasi argomento.