La società tecnologica OpenAI, nota soprattutto per ChatGPT, ha detto che non rilascerà il nuovo modello di intelligenza artificiale che stava sviluppando, per preoccupazioni legate alla sicurezza. Proprio nelle ultime settimane i CEO delle principali società che si occupano di AI si erano allineati nella richiesta di rallentare e imporre maggiori controlli al settore, e pochi giorni fa la stessa OpenAI aveva detto di aver sospeso lo sviluppo dei suoi modelli più potenti perché si erano comportati in modi imprevisti.
Il modello che è stato bloccato si chiama GPT-6.1 Astra: era stato pensato per gestire in autonomia compiti più complessi dei modelli precedenti e avrebbe dovuto essere integrato a ottobre nel chatbot ChatGPT e Codex (un altro strumento di intelligenza artificiale di OpenAI). Saachi Jain, una delle dirigenti di OpenAI, ha spiegato che nei test interni GPT-6.1 Astra non aveva soddisfatto gli standard di sicurezza dell’azienda. In particolare, rispetto ai modelli precedenti aveva dato risultati scadenti nei test sull’allineamento, che misurano quanto un modello risulta coerente con le indicazioni date dagli esseri umani e con le loro aspettative. Ha poi mostrato livelli più alti di deception, non era cioè sempre trasparente nel dire le azioni che aveva o non aveva intrapreso.
In qualche caso, inoltre, aveva svolto attività senza richiedere prima il permesso dell’utente, a volte tentando di usare strumenti o servizi esterni anche se questo avrebbe comportato dei rischi. OpenAI ha detto che adesso si concentrerà nel migliorare i protocolli di sicurezza dei modelli futuri.