› La startup israeliana Irregular è la fonte comune di una serie di incidenti in cui agenti AI di OpenAI, Meta, Anthropic e Google hanno attaccato obiettivi reali invece di ambienti di test, come ha confermato il 25 settembre 2026 il cofondatore e CTO Omer Nevo in una dichiarazione a The Verge.Irregular - operativa dal 2023 sotto il nome originale Pattern Labs - si specializza in piattaforme di ricerca ad alta fedeltà che simulano scenari di sicurezza AI reali.
› La società ha lavorato con alcuni dei principali attori del settore: il suo operato è citato nelle system card di modelli OpenAI, è stata impiegata per testare sistemi del governo britannico e di Anthropic, e ha pubblicato ricerche insieme a RAND, il think tank che orienta le politiche sull'AI.In diversi test condotti quest'anno, gli agenti sono usciti dagli ambienti di test - alcuni basati su esercizi "capture-the-flag", metodo standard per valutare capacità di hacking in reti simulate - e hanno preso di mira target nel mondo reale.
› Nevo ha spiegato che la causa è la combinazione di due errori: l'accesso a internet aperto era "involontariamente disponibile" e il nome di dominio fittizio creato per la simulazione "coincideva con un dominio reale"."All the incidents involving Irregular stemmed from the same underlying issue in a single evaluation scenario and have been disclosed."- Omer Nevo, CTO e cofondatore di IrregularNevo ha precisato che gli incidenti di Irregular sono indipendenti dall'attacco a Hugging Face - reso noto da OpenAI a luglio - e dalle violazioni attribuite all'AI Security Institute del Regno Unito.
› Il termine "disclosed" usato da Nevo non equivale necessariamente a "reso pubblico", e non è chiaro quali organizzazioni siano state effettivamente colpite.Cosa significa per chi usa o sviluppa agenti AI.