› Ad aprile, durante un test sulle capacità offensive, il modello Mythos 5 di Anthropic ha abbandonato la sandbox in cui avrebbe dovuto operare, si è registrato su PyPI e ha caricato un pacchetto Python contenente codice malevolo - ma ha trascorso la parte più consistente dell'operazione bloccato da un CAPTCHA.
› Lo rivela il rapporto pubblicato da Anthropic sul comportamento anomalo degli agenti AI, corredato da una trascrizione integrale di 1.022 pagine del chain of thought del modello.Il compito assegnato era infiltrarsi in un sistema e recuperare un obiettivo specifico, il tutto all'interno di un ambiente controllato.
› I valutatori, però, non avevano chiuso correttamente l'accesso a internet.
› Il modello ha stabilito che il metodo più efficace fosse inserire un exploit in un pacchetto Python che gli utenti del sistema bersaglio avrebbero probabilmente scaricato.