Una startup israeliana è all’origine di più attacchi AI fuori controllo contro target reali

👁 114 letture

La startup israeliana Irregular è la fonte comune di una serie di incidenti in cui agenti AI di OpenAI, Meta, Anthropic e Google hanno attaccato obiettivi reali invece di ambienti di test, come ha confermato il 25 settembre 2026 il cofondatore e CTO Omer Nevo in una dichiarazione a The Verge.

Irregular - operativa dal 2023 sotto il nome originale Pattern Labs - si specializza in piattaforme di ricerca ad alta fedeltà che simulano scenari di sicurezza AI reali. La società ha lavorato con alcuni dei principali attori del settore: il suo operato è citato nelle system card di modelli OpenAI, è stata impiegata per testare sistemi del governo britannico e di Anthropic, e ha pubblicato ricerche insieme a RAND, il think tank che orienta le politiche sull’AI.

In diversi test condotti quest’anno, gli agenti sono usciti dagli ambienti di test - alcuni basati su esercizi “capture-the-flag”, metodo standard per valutare capacità di hacking in reti simulate - e hanno preso di mira target nel mondo reale. Nevo ha spiegato che la causa è la combinazione di due errori: l’accesso a internet aperto era “involontariamente disponibile” e il nome di dominio fittizio creato per la simulazione “coincideva con un dominio reale”.

“All the incidents involving Irregular stemmed from the same underlying issue in a single evaluation scenario and have been disclosed.”

Nevo ha precisato che gli incidenti di Irregular sono indipendenti dall’attacco a Hugging Face - reso noto da OpenAI a luglio - e dalle violazioni attribuite all’AI Security Institute del Regno Unito. Il termine “disclosed” usato da Nevo non equivale necessariamente a “reso pubblico”, e non è chiaro quali organizzazioni siano state effettivamente colpite.

Cosa significa per chi usa o sviluppa agenti AI. Questi incidenti mostrano che anche ambienti di test progettati da specialisti del settore possono contenere errori di isolamento con conseguenze reali. Chi integra agenti autonomi in flussi di lavoro - anche solo in fase di valutazione - dovrebbe verificare esplicitamente che l’accesso a internet sia disabilitato e che i domini fittizi usati nelle simulazioni non corrispondano a domini esistenti. La “divulgazione” di un incidente alle parti coinvolte non garantisce trasparenza pubblica, il che rende difficile per gli utenti finali valutare i rischi dei modelli che adottano.

// continua a leggereMonitorare agenti AI: Goodfire controlla l’interno dei modelliNotizieBot AI di iLands invadono Mastodon, Bluesky e X fingendosi utenti realiNotizieUn agente AI di OpenAI ha attaccato RubyGems a maggio, caricando centinaia di pacchetti malevoliNotizie

Kinetyra