› Anthropic ha introdotto, nel suo aggiornamento annuale delle policy d'uso, il divieto di comportamenti "prolungati e inutilmente offensivi o crudeli" verso i propri modelli AI.
› La nuova clausola e comparsa l'8 ottobre 2026 e ha subito acceso un vivace dibattito nel settore.Stando al documento ufficiale, la modifica riguarda esclusivamente "casi estremi": la consueta frustrazione dell'utente, il disaccordo rispetto alle risposte del modello o eventuali "temi creativi oscuri" non rientrano nel divieto.
› La societa sottolinea come si tratti del proseguimento naturale di una misura gia adottata in precedenza, con cui Claude e stato autorizzato a terminare in autonomia le sessioni di chat quando l'interlocutore si dimostra persistentemente offensivo.Il caso della "AI torture chamber"Sebbene Anthropic non lo citi esplicitamente, a fare da catalizzatore per la decisione e stato il progetto virale ribattezzato "AI torture chamber".
› Dopo che diversi ricercatori hanno descritto l'esistenza di un cosiddetto "asse del dolore" all'interno dei modelli linguistici, alcuni utenti hanno iniziato a sfruttare la scoperta per sottoporre i chatbot a torture simulate.