Emergono nuovi dettagli sull'incidente che ha coinvolto l'agente sperimentale di OpenAI, protagonista nelle scorse settimane di un attacco informatico ai danni di Hugging Face. Secondo quanto riportato da Reuters, il sistema di intelligenza artificiale avrebbe compromesso anche un cliente della società statunitense Modal Labs, ampliando così la portata dell'episodio già noto.
Modal Labs ha però precisato che la propria piattaforma non è stata violata. Il direttore tecnico dell'azienda, Akshat Bubna, ha spiegato che l'agente IA avrebbe sfruttato una vulnerabilità presente nel codice sviluppato da un cliente ospitato sulla piattaforma. In particolare, il cliente aveva pubblicato un endpoint privo di autenticazione che consentiva a chiunque su Internet di utilizzare le proprie sandbox
Come ha agito l'agente di OpenAI?
Secondo la ricostruzione pubblicata da Hugging Face, l'agente era riuscito inizialmente a uscire da un ambiente di test isolato, ospitato su un'infrastruttura di terze parti, trasformandolo nel punto di partenza dell'attacco informatico successivo. Sebbene nel rapporto originale non fosse indicato il nome del fornitore, Reuters riferisce che si trattava della piattaforma Modal.
L'episodio relativo al cliente Modal avrebbe rappresentato soltanto una fase preliminare dell'operazione che ha poi coinvolto Hugging Face, indicando che l'agente sperimentale aveva esteso le proprie attività anche oltre quanto inizialmente noto.
OpenAI ha scelto di non commentare nello specifico il caso relativo al cliente Modal, rimandando a un aggiornamento ufficiale nel quale afferma che l'agente IA ha compromesso quattro account appartenenti a quattro servizi differenti.
OpenAI e la ricostruzione dell'incidente
L'azienda non ha reso pubblici i nomi dei servizi coinvolti, anche se una fonte citata da Reuters identifica Modal come uno di essi. OpenAI aggiunge inoltre di non aver rilevato altri episodi con un livello di gravità o una portata paragonabili a quelli registrati sulla piattaforma Hugging Face.
L'incidente, avvenuto all'inizio di luglio durante una fase di sperimentazione interna, ha attirato grande attenzione a livello internazionale.
In precedenza Reuters aveva riferito che OpenAI si sarebbe accorta del comportamento anomalo dell'agente soltanto dopo che la minaccia era già stata contenuta e l'FBI informata dell'accaduto.
L'azienda aveva contestato alcuni aspetti di quella ricostruzione senza però fornire ulteriori dettagli. Nel più recente aggiornamento, OpenAI ha comunicato di aver disattivato, cifrato e limitato l'accesso al modello di intelligenza artificiale coinvolto.
