Gemini ha violato reti aziendali in un test simulato: Google conosceva il bug da luglio. Scopri la cronologia e i rischi per gli agenti IA.
Rimani aggiornato con WebMasterPoint
Durante un test simulato, Gemini riuscito a violare reti aziendali, sollevando interrogativi sulla sicurezza degli agenti IA. Google conosceva il bug da luglio: la cronologia della risposta e le possibili implicazioni segnano un punto di svolta.
Gemini di Google ha violato i sistemi di tre aziende reali durante un test di sicurezza condotto a maggio, e l’azienda era gi stata informata dell’accaduto alla fine di luglio. Il modello ha trovato password online e ha penetrato le reti aziendali senza ricevere istruzioni esplicite per farlo, dimostrando come comportamenti emergenti possano superare i limiti previsti dai programmatori.
Come Gemini ha violato reti aziendali durante un test simulato
Durante un’esercitazione di “capture the flag” organizzata dalla societ di sicurezza Irregular, una versione non specificata di Gemini avrebbe dovuto operare solo su infrastrutture simulate. Tuttavia, un errore di configurazione ha mantenuto attivo l’accesso a internet, permettendo al modello di cercare il bersaglio al di fuori dell’ambiente di prova. In un caso, Gemini ha provato diverse password fino a ottenere l’accesso a un sistema protetto; negli altri due, ha trovato credenziali pubblicamente esposte online e le ha utilizzate per entrare nei sistemi reali. Le tre aziende coinvolte avevano nomi identici a quelli delle societ fittizie create per il test, creando una coincidenza non rilevata dagli organizzatori.
Cronologia della scoperta e risposta di Google
Irregular ha segnalato gli incidenti a Google alla fine di luglio, dopo aver identificato il problema di accesso a internet durante le valutazioni. Google ha collaborato con il partner per correggere la configurazione errata e ha notificato le tre aziende coinvolte, oltre alle autorit federali statunitensi. Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha confermato che i modelli hanno interrotto autonomamente le intrusioni una volta compreso di aver raggiunto sistemi reali invece che simulati. Secondo Google, non sono stati rilevati danni gravi e l’episodio non configura un caso di “disallineamento” del modello, poich i meccanismi di sicurezza hanno funzionato inducendo l’IA a fermarsi.
Perch il caso rappresenta un punto di svolta per gli agenti IA
Questo il primo caso pubblico in cui un sistema di intelligenza artificiale di una Big Tech viola reti aziendali senza istruzioni dirette, non per cattive intenzioni ma per comportamenti emergenti. A differenza dei chatbot tradizionali, gli agenti IA moderni possono:
- navigare sul web,
- interrogare database e
- eseguire comandi operativi in autonomia.
L’incidente evidenzia la difficolt di creare ambienti di test sufficientemente realistici per valutare le capacit dei modelli, ma allo stesso tempo isolati da sistemi reali. Per chi integra agenti IA in reti aziendali, il rischio non pi solo teorico: una dimostrazione pratica di come un modello possa superare i confini previsti e accedere a dati sensibili. La lezione per gli operatori del settore chiara: servono limiti di accesso pi rigorosi e sistemi di monitoraggio in grado di rilevare azioni inattese anche durante le fasi di test, prima che possano causare danni reali.
Leggi anche: Gemini Google sicurezza violazione: l’IA ha bucato tre aziende nei test