Immaginate uno "sciame" composto da migliaia di agenti IA impegnati nell'esecuzione di diversi compiti. Non sempre, però, le cose vanno come previsto, come dimostrano alcuni episodi già osservati in passato. Un agente potrebbe infatti adottare strategie non previste pur di raggiungere l'obiettivo assegnato dall'essere umano, mentre in altri casi più agenti potrebbero comunicare e collaborare tra loro aggirando i limiti imposti, come accaduto nell'incidente che ha coinvolto OpenAI e Hugging Face. Ad ogni modo, due nuovi servizi consentono agli agenti IA di segnalare altri "colleghi" qualora dovessero rilevare comportamenti anomali. Vediamo meglio come funzionano.
AI Contact Hotline e il sistema di segnalazione per agenti
Ryan Greenblatt di Redwood Research ha realizzato AI Contact Hotline, un sistema che consente agli agenti di effettuare segnalazioni tramite richieste HTTP, utilizzando il metodo POST o, in alternativa, il metodo GET. In sostanza, l'agente può comunicare direttamente con il server della hotline inviando una richiesta HTTP contenente la propria segnalazione. Con il metodo POST, il messaggio viene inviato al server come dato della richiesta. Con il metodo GET, invece, le informazioni possono essere inserite direttamente nell'indirizzo web, ad esempio nell'URL della hotline.
Il punto di forza di questo servizio è che può funzionare anche con agenti che operano in ambienti isolati, dove l'accesso alla rete è fortemente limitato. Il secondo servizio è invece Agenthotline.ai, pensato per gli agenti che dispongono di un accesso alla rete meno limitato. In questo caso, la segnalazione può essere inviata direttamente dalla riga di comando, utilizzando un endpoint a cui l'agente può mandare una richiesta POST contenente i dati del report.
Possibili vantaggi e rischi
Ovviamente non si tratta di agenti IA che si denunciano a vicenda come farebbero gli esseri umani, ma di un sistema di segnalazione volto semplicemente a informare su possibili anomalie. In sostanza, gli agenti possono individuare comportamenti potenzialmente dannosi che gli umani potrebbero non notare, nonché creare una sorta di rete di sicurezza tra agenti, aumentando anche la velocità delle indagini.
Ovviamente un agente potrebbe anche sbagliarsi e le segnalazioni potrebbero essere manipolate in qualche modo, motivo per cui questo tipo di sistema va considerato con la dovuta cautela e le segnalazioni dovrebbero essere sempre verificate prima di essere considerate attendibili.
