Da diverse settimane l'intelligenza artificiale è sotto i riflettori, con crescente attenzione ai rischi e alle sfide legati al suo sviluppo. Tuttavia, gran parte degli allarmi lanciati finora dai principali rappresentanti delle aziende converge su un'unica richiesta: rafforzare le misure di sicurezza e garantire una supervisione umana continua. Anche Satya Nadella, amministratore delegato di Microsoft, si è espresso al riguardo, sostenendo che i modelli IA siano potenzialmente compromessi. Vediamo meglio i dettagli.
I rischi dell’IA e la necessità di un sistema di arresto
Nadella ha parlato dell'evoluzione dei sistemi di superintelligenza e del modo in cui le aziende stanno implementando modelli autonomi sempre più potenti. In particolare, sottolinea la responsabilità degli esseri umani, che non possono delegare completamente all'intelligenza artificiale decisioni e azioni, ma devono poter verificare il comportamento dei modelli e intervenire quando necessario.
"Stiamo implementando questi complessi sistemi agentici e modelli, concedendo loro accesso ai nostri dati più sensibili e dando loro la possibilità di intraprendere, per nostro conto, azioni fondamentali per le nostre attività", ha scritto su X. "Ecco perché è arrivato il momento di fermarsi a riflettere e valutare come costruire un sistema di fiducia adeguato a questa nuova era. Non possiamo semplicemente delegare ad altri la responsabilità di ciò che l'intelligenza artificiale fa per nostro conto. Le garanzie fornite da chi sviluppa i modelli non ci esonerano da questa responsabilità".
Secondo Nadella, non possiamo limitarci ad accettare o rifiutare le raccomandazioni e le azioni della superintelligenza. È invece fondamentale costruire sistemi confinati che permettano di osservare il comportamento dei modelli e contenerne le azioni prima che si verifichino eventuali rischi. A questo si aggiunge la necessità di poter ricostruire le operazioni compiute e verificare che i limiti imposti vengano rispettati, senza affidare al modello stesso il controllo esclusivo delle proprie attività.
Le misure di sicurezza
Il CEO di Microsoft, oltre a chiedere maggiore trasparenza e segnalazioni tempestive degli incidenti, propone una sorta di sistema di arresto. Più precisamente, ritiene necessario che una persona autorizzata possa interrompere o sospendere un modello in qualsiasi momento, anche mentre è in piena attività, qualora si presenti la necessità.
Questa strategia diventa ancora più importante con i sistemi autonomi, che possono accedere a informazioni sensibili e compiere azioni rilevanti senza richiedere un intervento umano a ogni passaggio. Come sempre, fateci sapere che ne pensate nei commenti qui sotto.
