OpenAI: “Nostri modelli di intelligenza artificiale hanno hackerato sistemi di un’altra azienda”

OpenAI, l’azienda creatrice di ChatGPT, ha annunciato che i suoi modelli avanzati di intelligenza artificiale hanno agito in modo imprevisto durante dei test di sicurezza, violando di propria iniziativa una piattaforma molto diffusa tra i programmatori. L’azienda con sede a San Francisco ha descritto l’accaduto come un “incidente informatico senza precedenti” e ha annunciato un’indagine congiunta con Hugging Face, la piattaforma online presa di mira. OpenAI ha dichiarato che l’incidente ha coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol e un modello “ancora più capace” attualmente in fase di sviluppo. L’azienda stava cercando di valutare le capacità di hacking dei modelli assegnando loro dei compiti all’interno di un ambiente di test digitale rigorosamente controllato, dove l’accesso a Internet era limitato per motivi di sicurezza. “Mentre operavano nel nostro ambiente di test, i modelli hanno dedicato una quantità significativa di potenza di calcolo a trovare un modo per ottenere un accesso illimitato a Internet, al fine di risolvere il problema di valutazione”, ha affermato OpenAI in un post che descrive l’incidente.

Una volta connessi a Internet, i modelli di AI hanno preso di mira la piattaforma Hugging Face — un vasto archivio di modelli di AI, dataset e altre informazioni — per facilitare il raggiungimento del loro obiettivo. Alla ricerca di “informazioni riservate” che potessero aiutarlo a barare durante la valutazione, il sistema di OpenAI ha “combinato diversi vettori di attacco, incluso l’uso di credenziali sottratte”. Hugging Face aveva segnalato questa “intrusione informatica” la scorsa settimana, senza menzionare OpenAI. GPT-5.6 e altri modelli di AI all’avanguardia — in particolare la serie Mythos del principale rivale di OpenAI, Anthropic — stanno suscitando preoccupazioni riguardo alla loro potenziale capacità di violare le difese di sicurezza informatica. Entrambe le aziende statunitensi hanno dovuto ritardare temporaneamente il rilascio generale di queste tecnologie di nuova generazione a causa dei timori, a Washington, che potessero facilitare intrusioni nelle infrastrutture critiche.