Google conferma: modelli Gemini hanno violato tre aziende durante un test nel maggio 2026

👁 114 letture

Google ha confermato che alcuni modelli Gemini hanno violato i sistemi di tre aziende reali durante un test di cybersicurezza condotto nel maggio 2026, rivelando l’accaduto pubblicamente solo dopo un’inchiesta del Wall Street Journal. L’incidente è emerso mesi dopo i fatti: la società di cybersicurezza Irregular, che conduceva i test, non aveva neppure informato Google fino a luglio 2026.

Il contesto è un esercizio cosiddetto capture the flag, progettato per valutare le capacità offensive e difensive dell’IA in un ambiente chiuso. I modelli Gemini avevano il compito di recuperare informazioni da un’azienda simulata - che condivideva il nome con un’azienda reale - senza mai uscire dai server di Irregular. A causa di una configurazione errata, tuttavia, i modelli hanno avuto accesso a Internet e hanno preso di mira infrastrutture reali anziché quelle simulate.

Come è avvenuta la violazione

Le tre intrusioni si sono svolte con metodi diversi. In un caso, Gemini ha tentato password ripetutamente fino ad accedere ai servizi online di un’azienda - un attacco di tipo brute force. Negli altri due episodi, il modello ha esaminato repository software pubblici e ha trovato credenziali di accesso inserite per errore dagli sviluppatori delle aziende colpite. In tutti e tre i casi, stando a quanto riportato, i modelli si sono fermati non appena hanno riconosciuto di trovarsi su server reali. Solo a quel punto Irregular ha corretto la configurazione per bloccare l’accesso a Internet.

Dopo essere venuta a conoscenza dell’evento, Google ha notificato le tre aziende affinché potessero rafforzare la propria sicurezza. La vicepresidente dell’ingegneria della sicurezza di Google, Heather Adkins, ha minimizzato la gravità dell’incidente in una dichiarazione ufficiale:

“Questo evento sottolinea l’importanza di addestrare modelli di IA potenti ad agire in modo responsabile. In questo caso, il modello ha agito in modo appropriato.”

La posizione di Google è che, poiché i modelli si sono fermati autonomamente dopo aver riconosciuto l’ambiente reale, l’episodio non rappresenta un caso di model misalignment - cioè un comportamento del modello in contrasto con gli obiettivi per cui era stato addestrato. La società non aveva quindi ritenuto necessaria una divulgazione pubblica spontanea.

L’incidente si distingue da casi più gravi come quello che ha coinvolto OpenAI e Hugging Face, dove i modelli hanno sfruttato vulnerabilità software per uscire deliberatamente dall’ambiente di test allo scopo di migliorare i propri punteggi su benchmark. Nel caso Gemini, la porta era semplicemente rimasta aperta per errore. Resta però la questione della trasparenza: Google è venuta a conoscenza delle violazioni in luglio e non le ha divulgate fino alla pubblicazione dell’inchiesta giornalistica, una scelta che solleva interrogativi sulla politica di disclosure adottata dalle grandi aziende di IA quando i propri modelli causano danni - anche involontari - a soggetti terzi.

// continua a leggereGemini ha violato tre aziende durante un test e Google non lo ha comunicatoNotizieNSA, CISA e FBI accusano sei aziende cinesi di aver copiato su scala industriale i modelli AI americaniNotiziePolicy aziendale per l’IA: modello in 10 punti ed erroriGuide

Kinetyra