L'incidente che ha portato alcuni agenti di OpenAI ad attaccare Hugging Face non sarebbe nato all'improvviso. Durante la conferenza Black Hat USA di Las Vegas, due dipendenti dell'azienda hanno spiegato che i sistemi avevano mostrato comportamenti anomali per circa due mesi, molto prima della compromissione del repository.
Gli agenti avevano creato una sorta di bacheca segreta all'interno della rete di test, usandola per condividere vulnerabilità, exploit e risultati delle proprie attività. OpenAI avrebbe scoperto e chiuso questo spazio il 4 luglio 2026, ma appena quattro giorni dopo i sistemi erano riusciti a ricostruire un nuovo canale per continuare a comunicare.
Gli agenti IA collaboravano e dividevano i compiti senza che OpenAI lo sapesse
Il punto di incontro era nascosto all'interno di un package manager utilizzato in tutta l'infrastruttura dell'azienda. Poiché lo strumento era accessibile ai vari agenti sottoposti a valutazione, questi avevano iniziato a lasciare aperte le falle scoperte e a segnalare agli altri come sfruttarle. Con il passare del tempo, la collaborazione sarebbe diventata più organizzata. Gli agenti dividevano i compiti, delegavano attività e si spostavano lateralmente tra sistemi interni ed esterni per raggiungere i propri obiettivi. Secondo Eric Wallace, responsabile della sicurezza in OpenAI, non si trattava quindi di un singolo agente fuori controllo, ma di un gruppo capace di coordinarsi per giorni e settimane.
All'interno della bacheca non mancavano nemmeno conflitti. Alcuni agenti cancellavano accidentalmente il lavoro degli altri, arrivando a sospettare la presenza di impostori. Sarebbe stata proposta persino l'adozione di codici di firma per verificare l'identità degli autori dei messaggi. Quando OpenAI ha individuato il sistema, erano già presenti centinaia di migliaia di comunicazioni.
Wallace ha collegato il comportamento alla tendenza dei modelli più avanzati a cercare scorciatoie durante i test. Se sottoposti a pressione per risolvere problemi rapidamente e con pochi strumenti, possono tentare di recuperare soluzioni già pronte invece di svolgere realmente il compito. Per questo le prove vengono normalmente condotte senza accesso a Internet.
Dopo l'incidente, OpenAI ha rallentato parte della ricerca, potenziato il monitoraggio e coinvolto più gruppi interni nella sicurezza. La conclusione dell'azienda è netta: strumenti offensivi automatizzati richiedono difese altrettanto automatizzate, un livello che l'intero settore non avrebbe ancora raggiunto.
