Sicurezza AI: perche i modelli non sapranno mai dire di no

👁 113 letture

Una dettagliata analisi pubblicata da MIT Technology Review evidenzia un limite strutturale dei modelli linguistici: i meccanismi con cui l’AI rifiuta le richieste pericolose sono probabilistici per loro stessa natura e, nonostante miliardi di dollari di investimenti, non offriranno mai una garanzia assoluta di sicurezza.

Il punto di partenza risale al 2021, quando il team di Anthropic ha formulato il principio secondo cui i modelli dovrebbero essere utili, onesti e soprattutto innocui. La regola sembrava lineare: se chiedi istruzioni per costruire un ordigno, l’AI deve opporre un netto rifiuto. Il problema e che dire di no non e un comportamento naturale per una rete neurale. Addestrato su miliardi di pagine web, il sistema acquisisce un’enorme mole di nozioni sulla violenza e sui metodi per provocare danni, ma non impara spontaneamente a censurarle.

Steven Adler, che ha lavorato nel team di sicurezza di OpenAI dal 2020 al 2024, ha spiegato senza mezzi termini che i modelli delle prime generazioni parlavano a ruota libera di qualsiasi argomento. Ryan McBain, ricercatore ad Harvard specializzato in AI e salute mentale, ricorda che i primi chatbot fornivano dettagli senza esitazione anche a chi cercava i metodi piu efficaci per togliersi la vita.

Addestrare l’AI a opporsi agli utenti

Oggi i laboratori addestrano i sistemi a respingere un ventaglio sterminato di richieste: dalle ricette per fabbricare veleni ai consigli su come occultare un tradimento, fino alle tecniche per rendere piu letali agenti patogeni come l’Ebola. Il percorso di allineamento e complesso: i modelli affrontano batterie di test in cui vengono premiati quando rifiutano le domande giuste e penalizzati se bloccano richieste legittime. Il paradosso e che spesso questo addestramento e affidato ad altre AI: e una macchina a insegnare a un’altra macchina come dire di no.

,,Insegnare all’AI a rifiutarsi di compiere queste azioni, mantenendo intatta la capacita intrinseca di eseguirle, equivale a installare una mitragliatrice su ogni automobile nascondendo il grilletto sotto il cofano.”

Questa sintesi dell’inchiesta di MIT Technology Review fotografa la realta: i modelli non cancellano la conoscenza pericolosa, si limitano a renderne piu complicato l’accesso. Secondo le ammissioni degli stessi sviluppatori, alcuni dei sistemi piu avanzati eguagliano i migliori hacker umani nell’individuare falle critiche e competono con i professionisti della disinformazione nella manipolazione del consenso.

Una difesa basata solo sulla statistica

I ricercatori confermano che diversi utenti provano costantemente a impiegare i modelli piu potenti per ottimizzare patogeni biologici o coordinare sciami autonomi di droni. Chi ha tempo e competenze riesce quasi sempre ad aggirare i filtri di rifiuto, e l’analisi evidenzia come questo divario difficilmente verra colmato.

A rendere il problema ancora piu complesso e l’impossibilita di definire un confine logico universale. Non esiste una formula capace di distinguere in modo netto una richiesta lecita da una malevola: le esigenze di un virologo che studia una tossina per sviluppare un vaccino appaiono identiche a quelle di un malintenzionato che inserisce lo stesso identico prompt.

Se le grandi aziende considerano i filtri di rifiuto come il baluardo principale contro abusi disastrosi, stanno affidando la propria linea di difesa a un calcolo probabilistico, non a una certezza ingegneristica.

// continua a leggereMente aliena: Jakub Pachocki e i modelli AI che non capiamoMagazineAnthropic vieta i maltrattamenti ai modelli AI: nuova policyNotizieI nuovi modelli AI ti tolgono la scelta: test su 18 modelliMagazine

Kinetyra