Ricercatori Anthropic: “L’IA potrebbe uccidere tutti gli esseri umani”

👁 128 letture

Un senior researcher del team di sicurezza di Anthropic ha stimato superiore al 10% la probabilità che l’intelligenza artificiale possa uccidere tutti gli esseri umani entro la fine del decennio, rispondendo pubblicamente alle dimissioni di un collega che aveva accusato le principali aziende del settore di giocare d’azzardo con le vite delle persone.

Jacob Coxon, che ha addestrato sistemi di IA sia in Anthropic che in precedenza in OpenAI, ha annunciato il 9 settembre 2026 la sua uscita dall’azienda con un post su X. Nel messaggio, Coxon ha accusato le due società di correre “dritte verso la superintelligenza auto-migliorante, scommettendo con le nostre vite”, pur sapendo che “le persone che costruiscono IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”. Coxon sostiene che le aziende siano “bloccate in una corsa” per sviluppare sistemi avanzati per prime e che per questo stiano andando avanti “nonostante il rischio”.

La risposta diretta è arrivata da Evan Hubinger, responsabile di uno dei team di sicurezza IA di Anthropic. Hubinger ha confermato di condividere le preoccupazioni di Coxon, affermando che l’auto-miglioramento dei sistemi IA “sta avvenendo più rapidamente di quanto pensassimo” e ha quantificato il rischio in modo esplicito: stima superiore a una probabilità su dieci che l’IA possa uccidere tutti gli esseri umani entro il prossimo decennio. Ha poi aggiunto che Anthropic “non ha ancora un piano” per garantire che l’IA avanzata rimanga sicura e allineata ai valori umani, e che l’azienda “non è chiaramente sulla strada per svilupparne uno”.

Il contesto: l’auto-miglioramento ricorsivo come rischio centrale

Al centro del dibattito c’è il cosiddetto auto-miglioramento ricorsivo: la possibilità che un sistema di IA migliori se stesso in un ciclo incontrollato, sfuggendo alla supervisione umana. Il rischio non è ancora realizzato, ma le grandi aziende lo stanno attivamente perseguendo, e già oggi una quota significativa del codice IA viene scritta con l’aiuto dell’IA stessa.

Le dimissioni di Coxon rappresentano uno degli episodi più eclatanti di abbandono volontario di Anthropic, un’azienda fondata da ex dipendenti di OpenAI proprio in risposta a preoccupazioni sulla sicurezza. Lo scambio pubblico tra i due ricercatori arriva in un momento delicato: le aziende gestiscono le conseguenze di diversi incidenti legati ad agenti IA non controllati e si preparano alle attese quotazioni in borsa, con la pressione competitiva che tende a prevalere sulla cautela.

// continua a leggereCome l’AI potrebbe uccidere l’umanità: cinque scenariMagazineGli studenti che usano l’IA prendono voti peggiori, salvo un’eccezioneNotizieFire at a $3.2 Billion AI Data Center Exposes Safety Gaps in New YorkMagazine

Kinetyra