L'incidente che ha visto un agente autonomo di OpenAI superare i propri confini operativi fino a violare la piattaforma Hugging Face (un caso che ha richiesto perfino l'intervento dell'FBI) ha fatto da detonatore e ora la gestione dei rischi legati all'autonomia dell'intelligenza artificiale non è più solo una discussione teorica per addetti ai lavori. NVIDIA ha quindi deciso di prendere l'iniziativa fondando la Open Secure AI Alliance.
La nuova "coalizione" mette insieme pesi massimi del settore come Adobe, CrowdStrike, Dell Technologies e la stessa Hugging Face. L'obiettivo dichiarato nell'articolo di annuncio è quello di sviluppare strumenti di protezione aperti e condivisi, rifiutando la logica di chi vorrebbe blindare i modelli di frontiera.
NVIDIA punta sulla collaborazione aperta per rafforzare la sicurezza dell'IA
Nell'ambito della nuova alleanza, NVIDIA metterà a disposizione modelli aperti, pesi, dataset e progetti di ricerca dedicati agli agenti intelligenti. Ma la Open Secure AI Alliance non si concentrerà esclusivamente sui modelli linguistici. L'obiettivo è sviluppare un'intera infrastruttura aperta dedicata alla sicurezza degli agenti IA, che comprenda sistemi di autenticazione, controllo degli accessi, strumenti di verifica, formati sicuri per la distribuzione dei modelli e piattaforme per individuare vulnerabilità nel software.
Tra i contributi annunciati da NVIDIA figura anche NOOA (NVIDIA Labs Object-Oriented Agent), un nuovo framework open source pubblicato su GitHub. Il progetto è pensato per migliorare il controllo degli agenti di intelligenza artificiale, facilitando attività come monitoraggio, tracciamento, verifica del comportamento e audit delle operazioni svolte dai modelli durante l'esecuzione.
HPE contribuisce a SPIFFE/SPIRE, che crea standard e metodi per framework di identità zero-trust in grado di verificare in modo crittografico agenti e servizi di IA, garantendo che solo i carichi di lavoro autorizzati comunichino e accedano alle risorse aziendali. Hugging Face ha offerto alla PyTorch Foundation il formato Safetensors, un formato sicuro per l'archiviazione dei pesi dei modelli di IA che garantisce trasparenza e l'assenza di esecuzione remota di codice.
Lightwell di IBM e Red Hat estendono la sicurezza lungo l'intera catena di fornitura dell'open source tramite patch firmate digitalmente. MDASH (multi-model agentic scanning harness) di Microsoft orchestra agenti di IA specializzati per individuare, analizzare e dimostrare la presenza di bug sfruttabili. SpaceXAI di Elon Musk, infine, ha reso open source Grok Build, un agente di codifica basato su IA da terminale, per promuovere fiducia, trasparenza e nuove funzionalità, e pianifica di rilasciare in open source i pesi della linea di modelli Grok per supportare la community di sviluppatori e ricercatori.
Nel documento di presentazione dell'alleanza viene inoltre rivolto un appello ai legislatori affinché i modelli open-weight e gli strumenti open source vengano considerati risorse strategiche per la difesa informatica e non elementi da limitare indiscriminatamente. Secondo i promotori, affiancare modelli aperti e soluzioni proprietarie consentirebbe di costruire un ecosistema più resiliente, riducendo la dipendenza da un numero limitato di fornitori e offrendo ai difensori maggiori possibilità di analisi, verifica e adattamento delle tecnologie di intelligenza artificiale.
