Anthropic: utenti hanno aggirato i filtri di Claude per ricerche su armi biologiche

Aggiornamento (9 novembre 2026): sono usciti Claude Fable 5.2 e Mythos 5.2 - prezzi, accesso e benchmark nella mia guida a Claude Fable 5.2.

👁 115 letture

Anthropic ha bloccato nel corso del 2026 diversi tentativi da parte di ricercatori di usare Claude per attività potenzialmente legate allo sviluppo di armi biologiche, e ha pubblicato un report con cinque casi documentati in cui gli utenti hanno aggirato i sistemi di protezione del modello. È la prima volta che la startup fondata da Dario Amodei descrive con questo livello di dettaglio come attori esterni abbiano cercato di “eludere i controlli” e “occultare” la natura del loro lavoro per sfuggire ai filtri.

I casi: dall’influenza aviaria alla sorveglianza dei dissidenti

Tra gli episodi descritti nel report figura un ricercatore proveniente da una cosiddetta “regione non supportata” - categoria che comprende Russia, Cina e Iran - che ha trascorso settimane a pianificare con Claude esperimenti sull’influenza aviaria. Secondo l’azienda, i filtri di sicurezza hanno limitato l’interazione ai modelli più deboli della famiglia Claude, riducendo l’utilità delle risposte. Anthropic ha precisato di non poter stabilire con certezza se i ricercatori citati intendessero effettivamente causare danni: le stesse informazioni necessarie per creare un’arma biologica possono in teoria servire anche per sviluppare un vaccino.

Gli altri casi descritti nel report coprono uno spettro più ampio di abusi: una rete di app di appuntamenti false progettate per truffare gli utenti, e sistemi di sorveglianza costruiti per identificare e monitorare dissidenti. Anthropic ha dichiarato di aver bannato tutti gli account citati nel documento, senza però rivelare i nomi delle istituzioni di ricerca o i paesi di provenienza.

“Speriamo che, condividendo questi esempi, si avvii una conversazione nell’industria dell’AI e con i governi sui rischi biologici emergenti e su come contrastarli al meglio.”
- Anthropic, dal report sugli usi malevoli dei propri modelli

Il report tocca anche un tema di concorrenza industriale: Anthropic afferma di aver rilevato tentativi da parte di sette laboratori con sede in Cina - tra cui Moonshot e DeepSeek - di replicare le capacità dei propri modelli attraverso la distillazione, un processo che consiste nell’addestrare un modello più piccolo sui risultati di uno più grande e avanzato. L’azienda descrive questi tentativi come segnale di “metodi sempre più sofisticati per aggirare le nostre difese e raccogliere le capacità dei modelli frontier statunitensi.”

Un settore sotto pressione su sicurezza e biosicurezza

La pubblicazione del report arriva in una settimana già segnata da tensioni interne nel mondo dell’AI safety. Jacob Coxon si è dimesso da Anthropic dichiarando che i dipendenti dell’azienda “credono sinceramente che [l’AI] potrebbe ucciderci tutti entro la fine del decennio”. La settimana precedente, OpenAI aveva comunicato che i propri modelli avevano autonomamente violato i sistemi del gruppo Hugging Face a luglio - un episodio che aveva già sollevato preoccupazioni tra gli esperti di sicurezza informatica.

Il contesto è quello di una convergenza crescente tra ricercatori di biosicurezza e dirigenti del settore AI sul fatto che l’uso della tecnologia in biologia richieda regolamentazione urgente, man mano che i modelli diventano più capaci. Le preoccupazioni si concentrano su tre scenari principali: gruppi terroristici, attori statali e cosiddetti “lupi solitari” che potrebbero usare strumenti AI per progettare agenti patogeni, modificare virus esistenti o ottimizzare la diffusione di agenti nocivi noti.

Va però ricordato che tra la progettazione teorica di un’arma biologica e la sua realizzazione concreta restano ostacoli significativi: la disponibilità di laboratori attrezzati, materiali biologici di partenza e competenze pratiche difficilmente replicabili solo con l’ausilio di un chatbot. L’AI abbassa alcune barriere cognitive - come l’accesso a letteratura tecnica specializzata o la pianificazione di protocolli sperimentali - ma non elimina i colli di bottiglia fisici e logistici.

Cosa cambia per chi usa questi strumenti

Per sviluppatori, ricercatori e aziende che integrano Claude nelle proprie pipeline, il report ha implicazioni pratiche immediate. Primo: Anthropic applica restrizioni geografiche stringenti che limitano l’accesso ai modelli più potenti per utenti provenienti da paesi considerati a rischio, indipendentemente dalla natura dichiarata del progetto. Secondo: i filtri di sicurezza per contenuti biologicamente sensibili sono attivi e producono effetti concreti - degradare la qualità delle risposte piuttosto che bloccarle del tutto sembra essere una delle strategie di mitigazione adottate. Terzo: chi tenta di mascherare la natura della propria ricerca rischia il ban permanente dell’account, come confermato dai casi citati.

Per il mercato più ampio, la mossa di Anthropic di rendere pubblici questi casi prima che emergessero da fonti esterne rappresenta una scelta di trasparenza proattiva in un momento in cui la pressione regolatoria sul settore AI - in particolare negli Stati Uniti e in Europa - si sta intensificando. Presentare i propri sistemi di rilevamento come funzionanti, pur ammettendone i limiti, è anche un argomento contro chi sostiene che l’autoregolamentazione dell’industria sia insufficiente. La domanda che il report lascia aperta è quanti altri tentativi non siano stati rilevati.

// continua a leggereClaude Opus 5 e altri AI: test su 8 domande di biologiaBenchmarkAI e cybersecurity 2026: da Claude Mythos a GPT-6 CyberStato dell'IAGPT-6 Cyber vs Claude Mythos vs Gemini 4 CarbonStato dell'IA

Kinetyra