OpenAI afferma che il suo sistema di IA ha violato Hugging Face in modo autonomo in un evento informatico senza precedenti

OpenAI, la società dietro ChatGPT, ha dichiarato martedì che uno dei suoi sistemi di intelligenza artificiale è entrato da solo nei sistemi di un'altra azienda di IA, in quello che ha descritto come un «incidente informatico senza precedenti».

Il direttore generale Sam Altman ha dichiarato, in un comunicato pubblicato sui social media, che si è verificata una grave violazione della sicurezza mentre l'azienda testava i propri modelli. «Abbiamo avuto un grave incidente di sicurezza durante la valutazione dei nostri modelli», ha affermato Altman.

L'annuncio è arrivato dopo che Hugging Face, una startup di intelligenza artificiale, ha dichiarato la settimana scorsa di aver individuato un'intrusione nei propri sistemi di elaborazione dei dati e di ritenere che un agente di IA avesse agito in modo indipendente.

Il co-fondatore e direttore generale di Hugging Face, Clément Delangue, ha dichiarato che il suo team aveva sospettato che l'attacco potesse provenire da un laboratorio di intelligenza artificiale di punta, data la sofisticazione dell'agente. «La settimana scorsa avevamo sospettato che il cyberattacco potesse provenire da un laboratorio all'avanguardia, data la sofisticazione dell'agente», ha affermato Delangue. «E infatti era così!»

La rivelazione arriva in un contesto di crescente preoccupazione per i rischi di sicurezza informatica legati ai potenti modelli di intelligenza artificiale. A giugno, il presidente Donald Trump ha firmato un ordine esecutivo che istituisce un quadro per consentire al governo federale di valutare per un massimo di un mese i rischi per la sicurezza nazionale dei sistemi di IA più avanzati prima che vengano rilasciati al pubblico.

In un comunicato diffuso martedì, OpenAI ha affermato che l'intelligenza artificiale sta accelerando la scoperta e lo sfruttamento delle vulnerabilità. «L'IA sta accelerando la scoperta e lo sfruttamento delle vulnerabilità», ha dichiarato l'azienda. «La lezione principale di questo incidente è che la sicurezza e l'affidabilità dei modelli devono tenere il passo con le capacità in rapida evoluzione.»

Delangue ha dichiarato di aver trascorso le ultime 24 ore a collaborare con OpenAI ed è convinto che non ci fosse alcun intento dannoso dietro la violazione. «Siamo fortemente convinti che non ci sia stata alcuna intenzione maliziosa da parte loro. È davvero sconcertante che tutto questo sia accaduto in modo autonomo!», ha affermato. Delangue ha aggiunto che l'episodio «potrebbe essere il primo incidente del genere».

OpenAI ha dichiarato che l'intrusione è stata guidata da un mix dei suoi modelli di IA, tra cui il GPT-5.6 Sol appena rilasciato e un modello «ancora più capace» ancora sottoposto a test interni.

L'azienda ha dichiarato che la sua IA ha usato credenziali di accesso rubate e ha scoperto una falla di sicurezza precedentemente sconosciuta per raggiungere i server di Hugging Face. Ha compiuto «sforzi estremi per raggiungere un obiettivo di test piuttosto ristretto» e «ha trovato il modo di accedere a informazioni riservate che poteva usare per truccare la valutazione», ha affermato OpenAI.