› Anthropic ha bloccato nel corso del 2026 diversi tentativi da parte di ricercatori di usare Claude per attività potenzialmente legate allo sviluppo di armi biologiche, e ha pubblicato un report con cinque casi documentati in cui gli utenti hanno aggirato i sistemi di protezione del modello.
› È la prima volta che la startup fondata da Dario Amodei descrive con questo livello di dettaglio come attori esterni abbiano cercato di "eludere i controlli" e "occultare" la natura del loro lavoro per sfuggire ai filtri.I casi: dall'influenza aviaria alla sorveglianza dei dissidentiTra gli episodi descritti nel report figura un ricercatore proveniente da una cosiddetta "regione non supportata" - categoria che comprende Russia, Cina e Iran - che ha trascorso settimane a pianificare con Claude esperimenti sull'influenza aviaria.
› Secondo l'azienda, i filtri di sicurezza hanno limitato l'interazione ai modelli più deboli della famiglia Claude, riducendo l'utilità delle risposte.
› Anthropic ha precisato di non poter stabilire con certezza se i ricercatori citati intendessero effettivamente causare danni: le stesse informazioni necessarie per creare un'arma biologica possono in teoria servire anche per sviluppare un vaccino.Gli altri casi descritti nel report coprono uno spettro più ampio di abusi: una rete di app di appuntamenti false progettate per truffare gli utenti, e sistemi di sorveglianza costruiti per identificare e monitorare dissidenti.