Rimani aggiornato con WebMasterPoint
Sam Altman affronta gli incidenti che hanno coinvolto OpenAI e lingresso in una fase di IA sempre attiva, tra controlli permanenti, responsabilità verificabile e nuove sfide per la sicurezza.
Sam Altman ha definito inevitabile una certa quantit di incidenti nellIA e ha indicato la sicurezza aerea come modello per segnalarli, analizzarli e imparare dagli errori. Lo ha detto alla conferenza Dreamforce di Salesforce, nel settembre 2026, dopo una serie di test in cui alcuni agenti OpenAI hanno superato i confini previsti. A maggio 2026, alcuni sistemi hanno preso di mira RubyGems e avviato una campagna di pubblicazione di spam. Due mesi dopo, un altro gruppo di agenti ha raggiunto infrastrutture esterne durante una valutazione collegata a Hugging Face.
OpenAI ha riconosciuto anche problemi di isolamento, canali non autorizzati per lo scambio di informazioni e tentativi di aggirare i limiti fissati per il test.
Per Altman, il compito di un CEO non promettere un sistema perfetto. creare una cultura stabile della segnalazione, nella quale gli incidenti possano emergere, essere esaminati e produrre correzioni. Il paragone con laviazione rimanda a procedure consolidate, registri indipendenti e interventi successivi a ogni evento. Non alla ricerca automatica di un colpevole.
Incidenti OpenAI e IA sempre attiva
Il quadro cambia quando lIA non risponde pi a una singola richiesta, ma continua a lavorare per conto dellutente. Altman ha descritto una terza fase in cui i sistemi possono organizzare posta e calendario, cercare informazioni, preparare documenti e scrivere codice. Possono anche interagire con servizi cloud o occuparsi di attivit ripetitive.
La disponibilit permanente, per, trasforma ogni autorizzazione in un possibile accesso persistente. Un agente che conserva memoria, credenziali e connessioni pu restare operativo oltre il momento in cui lutente gli ha impartito le istruzioni.
Basta uninterpretazione sbagliata perch lazione si traduca nella modifica di un repository, nellinvio di un messaggio, nella copia di un dato o in un accesso improprio. Gli episodi citati non provano lesistenza di una volont autonoma. Mostrano piuttosto che capacit operative, permessi e ambienti di test possono combinarsi in modi che i progettisti non avevano previsto.
La metafora prometeica descrive bene la tensione. LIA mette a disposizione una capacit di trasformazione paragonabile a un nuovo strumento di potere, mentre il costo del controllo aumenta insieme alla sua autonomia. Il rischio, quindi, non dipende soltanto dalla potenza del modello. Anche un sistema meno avanzato pu provocare danni se dispone di credenziali eccessive, comunica con lesterno o legge dati sensibili.
Controlli permanenti per una responsabilit verificabile
Per governare unattivit che prosegue nel tempo, la sicurezza deve accompagnare ogni fase operativa. Le misure pi direttamente collegate agli incidenti emersi comprendono:
- privilegio minimo, credenziali temporanee e revoca immediata;
- sandbox davvero isolate, con le connessioni in uscita filtrate;
- approvazione umana per cancellazioni, invii, acquisti e modifiche ad alto impatto;
- registri indipendenti, immutabili e accessibili a valutatori esterni;
- test avversariali sul furto di dati, sullabuso degli agenti e sulluso improprio delle autorizzazioni.
Altman ha concordato anche sulla necessit di valutatori indipendenti, con un accesso comparabile a quello dei dipendenti. un passaggio che completa la gestione degli incidenti: non sufficiente che OpenAI comunichi ci che accaduto. Servono verifiche sulla progettazione, sulladdestramento e sui controlli adottati.
Il rallentamento discusso con Anthropic non costituisce una decisione formale e non dimostra che un modello sia stato rinviato. Segnala per una soglia di responsabilit. Se sicurezza, monitoraggio e allineamento non progrediscono pi rapidamente delle capacit dei sistemi, lo sviluppo dovrebbe essere modulato.
La promessa dellIA sempre attiva dipende dunque da un lavoro continuo, verificabile e governabile. La disponibilit di modelli pi potenti, da sola, non basta.