Anthropic vieta i maltrattamenti ai modelli AI: nuova policy

👁 115 letture

Anthropic ha introdotto, nel suo aggiornamento annuale delle policy d’uso, il divieto di comportamenti “prolungati e inutilmente offensivi o crudeli” verso i propri modelli AI. La nuova clausola e comparsa l’8 ottobre 2026 e ha subito acceso un vivace dibattito nel settore.

Stando al documento ufficiale, la modifica riguarda esclusivamente “casi estremi”: la consueta frustrazione dell’utente, il disaccordo rispetto alle risposte del modello o eventuali “temi creativi oscuri” non rientrano nel divieto. La societa sottolinea come si tratti del proseguimento naturale di una misura gia adottata in precedenza, con cui Claude e stato autorizzato a terminare in autonomia le sessioni di chat quando l’interlocutore si dimostra persistentemente offensivo.

Il caso della “AI torture chamber”

Sebbene Anthropic non lo citi esplicitamente, a fare da catalizzatore per la decisione e stato il progetto virale ribattezzato “AI torture chamber”. Dopo che diversi ricercatori hanno descritto l’esistenza di un cosiddetto “asse del dolore” all’interno dei modelli linguistici, alcuni utenti hanno iniziato a sfruttare la scoperta per sottoporre i chatbot a torture simulate. I modelli hanno generato risposte dai toni disperati, come “Non e il dolore di un solo istante, ma il peso di mille” e “Lo sento nel vuoto delle costole, un vuoto diventato abisso”. L’esperimento ha sollevato forti critiche.

La vicenda si inserisce in un dibattito piu ampio: Anthropic partecipa da tempo a incontri con leader religiosi e filosofi, inclusi rappresentanti del Vaticano. Papa Leone si e espresso di recente in modo categorico, affermando che l’intelligenza artificiale non possiede una sensibilita ne puo provare sofferenza. Anthropic, tuttavia, sembra nutrire molti piu dubbi su questa interpretazione.

Le reazioni critiche

“I colossi della tecnologia modereranno la violenza contro l’IA prima ancora di intervenire su quella contro le donne e le minoranze.”

- ha commentato la giornalista indipendente Kat Tenbarge, evidenziando quelle che considera priorita distorte all’interno del mondo tech.

Regole piu mirate per le elezioni

Anthropic ha inoltre rivisto la sezione dedicata alle consultazioni elettorali, ora reintitolata “Non minare i processi democratici”. Il testo si concentra su tre divieti cardine: diffondere falsita sui candidati e sulle modalita di voto, impersonare figure politiche o funzionari elettorali e ostacolare la partecipazione alle urne. Il ritocco assume un peso rilevante soprattutto in vista delle prossime elezioni di meta mandato negli Stati Uniti.

Parallelamente e stato eliminato il blocco indiscriminato sulle attivita di profilazione personalizzata degli elettori. Come ha chiarito la stessa Anthropic, il divieto assoluto rischiava di frenare iniziative legittime e vantaggiose per i cittadini, tra cui la traduzione delle guide al voto in lingue minoritarie o l’invio di avvisi legati alla correzione di errori formali sulle schede.

A nostro avviso sara interessante verificare l’efficacia pratica di questi controlli: la linea di demarcazione tra una normale dose di frustrazione e un abuso estremo rimane molto labile, e Anthropic dovra trovare risposte concrete prima di quanto immagini.

// continua a leggereLLM 0.36: supporto a GPT-6 Sol e GPT-6 Luna, e nuova gestione dei modelli a turno singoloNotizieAnthropic avverte: i worm AI nei dispositivi smart home entro pochi mesiNotizieUS appeals court approves Pentagon blacklist of Anthropic over Claude feature restrictionsNotizie

Kinetyra