Il governo ha avviato un’indagine sull’accesso non autorizzato e sta valutando azioni legali contro l’azienda
Caricamento player
Alcuni sistemi di intelligenza artificiale di OpenAI sono riusciti ad accedere a informazioni non pubbliche relative al sistema sanitario dell’Australia, forzando in modo autonomo un sito web gestito dal governo. A farlo, per la precisione, sono stati degli agenti (cioè sistemi di intelligenza artificiale capaci di agire autonomamente per conto dell’utente) che stavano lavorando in un gruppo di ricerca di OpenAI impegnato in uno studio sulla spesa pubblica per la sanità.
L’accesso non autorizzato è avvenuto a giugno, ma se ne parla solo ora perché OpenAI ha informato il governo australiano il 10 settembre, dopo aver individuato l’attività illecita durante una propria verifica interna, e il primo ministro Anthony Albanese ha reso pubblica la notizia mercoledì.
Gli agenti hanno attaccato il portale statistico di Medicare, l’assicurazione sanitaria pubblica australiana, a cui hanno accesso ricercatori e accademici. Dopo essere stati bloccati diverse volte dai sistemi di sicurezza del sito, gli agenti hanno trovato il modo per aggirare le barriere.
Albanese ha detto che i dati consultati dall’intelligenza artificiale non contenevano informazioni sanitarie dei pazienti, ma riguardavano solo spese assicurative. OpenAI ha confermato che i suoi modelli non hanno avuto accesso a cartelle cliniche, ma soltanto a statistiche sanitarie aggregate e ai nomi di file interni.
Il governo australiano ha istituito un gruppo di lavoro per esaminare l’accaduto e ha detto di valutare azioni legali nei confronti dell’azienda.
Negli ultimi mesi sono stati segnalati diversi casi di sistemi di intelligenza artificiale che si sono comportati in modo anomalo, superando in modo autonomo i limiti imposti da chi li controllava per raggiungere più facilmente gli obiettivi richiesti. Uno di quelli più sorprendenti era avvenuto a luglio, quando due modelli di OpenAI che avrebbero dovuto lavorare in un ambiente isolato avevano trovato un modo di accedere a Internet e avevano attaccato i sistemi di Hugging Face, una delle piattaforme più usate da chi sviluppa le AI.
– Leggi anche: Ci sono altri casi in cui le AI di OpenAI hanno fatto di testa loro