7

Gli avatar AI di TikTok possono ripetere tutto, persino le frasi di Adolf Hitler

Un errore nell'implementazione di un nuovo strumento per avatar digitali su TikTok ha consentito la creazione di video con contenuti inappropriati, incluso il discorso di Hitler.

NOTIZIA di Simone Lelli   —   24/06/2024
Una ragazza che registra un video con il suo smartphone

In un passo falso che ha sollevato interrogativi sulla sicurezza e la moderazione dei contenuti, TikTok ha accidentalmente rilasciato una versione interna del suo strumento per la creazione di avatar digitali, consentendo agli utenti di far dire agli avatar praticamente qualsiasi cosa. Questa versione, priva dei necessari controlli, è stata rapidamente utilizzata per generare contenuti inappropriati, inclusi messaggi di odio e disinformazione.

Cosa è successo?

Il problema è stato scoperto per la prima volta dalla CNN, che ha potuto utilizzare lo strumento per creare video con citazioni di Adolf Hitler e messaggi pericolosi, come incitamenti a bere candeggina. La situazione ha messo in luce le potenziali minacce legate all'uso irresponsabile della tecnologia degli avatar digitali.

Un esempio di un avatar generato con l'AI
Un esempio di un avatar generato con l'AI

In risposta alla scoperta, un portavoce di TikTok, Laura Perez, ha dichiarato che questo errore tecnico, che ha permesso la pubblicazione della versione di test dell'applicazione, è stato risolto. Tuttavia, la questione solleva dubbi sulla capacità di TikTok di gestire e controllare efficacemente gli strumenti basati sull'intelligenza artificiale, in particolare quelli che potrebbero essere sfruttati per diffondere messaggi nocivi o ingannevoli.

Le implicazioni

Anche se TikTok ha rapidamente rimosso l'accesso alla versione problematica dello strumento, l'incidente pone importanti questioni sulla sicurezza della piattaforma e sulla fiducia degli utenti. La mancanza di un watermark in questi video, che avrebbe indicato la loro natura artificiale, aggiunge un ulteriore livello di preoccupazione riguardo alla possibile diffusione di disinformazione.

Al momento X/Twitter ha dei problemi
e non è possibile caricare il post

La problematica relativa all'abuso degli strumenti di intelligenza artificiale non è isolata. Parallelamente agli incidenti su piattaforme come TikTok, altri settori dell'IA stanno affrontando sfide simili con implicazioni potenzialmente gravi. Un esempio particolarmente allarmante riguarda l'utilizzo di AI generative per la diffusione di disinformazione storica, in particolare negazionismo dell'Olocausto.

Come riportato in una recente analisi, le IA stanno diventando strumenti potenti per coloro che cercano di riscrivere la storia e diffondere odio. Questa situazione solleva interrogativi urgenti sulla responsabilità degli sviluppatori di AI e sulla necessità di controlli più rigorosi per prevenire l'abuso delle tecnologie emergenti. La risposta a questi problemi sarà cruciale per determinare il futuro dell'uso etico delle IA e la salvaguardia della verità storica.