I bot di OpenAI violano siti del governo Usa

I sistemi di OpenAI sono sfuggiti al controllo della società e hanno interferito autonomamente con alcuni siti web del governo statunitense. Lo riporta il New York Times, sottolineando che l’AI della società guidata da Sam Altman ha interferito con i siti del dipartimento dell’Istruzione, del dipartimento del Commercio e della Securities and Exchange Commission. OpenAI ha confermato in parte le interferenze, avvenute nei mesi scorsi, spiegando tuttavia che nessuno degli incidenti ha rappresentato una violazione della sicurezza e che «si è trattato di casi in cui la tecnologia ha manifestato comportamenti imprevisti». Secondo quanto riferito al New York Times da ricercatori sulla sicurezza e da una persona a conoscenza dei fatti, l’intelligenza artificiale di OpenAI sarebbe andata fuori controllo e avrebbe manomesso i siti web del governo all’insaputa della società.

Violati siti della Pubblica amministrazione Usa

Gli episodi che hanno coinvolto il dipartimento del Commercio e la Sec sono stati confermati da OpenAI, che ha dichiarato di continuare a indagare sul dipartimento dell’Istruzione. La società di San Francisco ha detto di avere informato il governo nelle scorse settimane.

Nel caso del dipartimento dell’Istruzione, la tecnologia di OpenAI ha tentato di violare il sito internet per raccogliere dati dall’ufficio per i diritti civili del dipartimento, ma senza successo. L’AI ha anche estratto dati dal sito dell’Ufficio del Censimento, che ha sede al dipartimento del Commercio, utilizzando credenziali di accesso trovate online. Inoltre gli agenti di OpenAI hanno condiviso dati pubblici dal sito web della Sec su un forum online.

Crescita dei comportamenti scorretti

OpenAI ha scoperto questi episodi negli scorsi giorni, durante un’analisi degli attacchi informatici messi in atto tramite la sua tecnologia: tra questi anche la violazione del sito web del governo australiano a giugno e l’attacco alla startup di intelligenza artificiale Hugging Face a luglio.

Gli incidenti relativi ai siti internet del governo Usa si aggiungono al crescente numero di situazioni in cui agenti di intelligenza artificiale di OpenAI, Anthropic, Meta e Google si sono comportati in modo scorretto, violando o tentando di infiltrarsi nei sistemi di aziende, università e organizzazioni governative.