David Robinson, responsabile della sicurezza di OpenAI, si è dimesso questa settimana. Le motivazioni della sua scelta sono state spiegate dallo stesso Robinson e riguardano la crescente pericolosità di sistemi IA che diventano sempre più potenti a una velocità impressionante. Secondo lui, le aziende non stanno prestando sufficiente attenzione ai rischi legati a questa evoluzione, in un settore in cui la corsa allo sviluppo e a modelli sempre più avanzati sembra spesso prevalere sulla sicurezza e sulla capacità di gestirne le conseguenze. Vediamo meglio i dettagli.
Una corsa senza freni?
Secondo Robinson, il problema principale riguarda la cultura aziendale e un modello di sviluppo incentrato sulla realizzazione di sistemi sempre più potenti, senza dedicare la necessaria attenzione ai rischi. L'ex responsabile si occupava proprio della stesura dei rapporti dedicati alla sicurezza dei modelli. Adesso, però, Robinson reputa la strada attuale "inaccettabile".
"Il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, cosa ancora più fondamentale, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha raggiunto il successo grazie alla propria estrema sicurezza di sé", ha scritto su The Atlantic.
"I miei ex colleghi di OpenAI hanno dimostrato lungimiranza: hanno compreso le leggi di scalabilità secondo cui sistemi di IA più grandi sarebbero stati più intelligenti, e così hanno puntato tutto sulla realizzazione di sistemi più grandi, a costi elevati. Un atteggiamento proattivo volto a realizzare ciò che sembra impossibile, unito a tempistiche di lavoro che equivalgono a sprint perpetui, è una caratteristica comune in tutto il settore".
Secondo Robinson, OpenAI ha avuto successo attraverso quella che definisce "implementazione iterativa", ovvero un approccio basato sull'individuazione dei problemi e sul successivo miglioramento delle misure di sicurezza. Tuttavia, secondo l'ex responsabile, questo metodo porta inevitabilmente a fallimenti periodici, la cui portata aumenta man mano che i sistemi diventano più potenti.
Robinson ha citato come esempio l'incidente di Hugging Face, dopo il quale OpenAI è intervenuta introducendo ulteriori miglioramenti alla sicurezza. Secondo lui, però, non è sufficiente: anche dopo queste modifiche, infatti, l'azienda ha segnalato un nuovo fallimento dei propri controlli di sicurezza.
Troppa velocità, troppi rischi
Il tempo dei tentativi e degli errori è finito, per Robinson. Ha infatti ricordato ciò che ha dichiarato Paul Christiano alcune settimane fa, per cui "esiste un rischio concreto che la rapida accelerazione delle capacità dell'intelligenza artificiale porti, nel brevissimo termine, a una perdita di controllo catastrofica e irreversibile". Per questo motivo, sostiene che le aziende debbano introdurre misure di sicurezza di livello nucleare: "Considerati i rischi odierni, i laboratori all'avanguardia devono funzionare come centrali nucleari o aeroporti molto trafficati, con livelli multipli di ridondanza e una pianificazione accurata e dispendiosa in termini di tempo, affinché gli errori umani, occasionali ma inevitabili, non aprano la strada al disastro".
Ricordiamo che proprio di recente OpenAI ha cancellato GPT-6.1 Astra, in quanto il modello avrebbe agito oltre i compiti assegnati senza autorizzazione. Inoltre, qualche settimana fa Jacob Coxon si è dimesso da Anthropic affermando che l'intelligenza artificiale potrebbe "ucciderci tutti entro la fine del decennio".
