Grok, il chatbot sviluppato da xAI e integrato nella piattaforma X, sta attirando un'attenzione crescente per motivi che vanno oltre le sue capacità tecniche. Negli ultimi giorni, numerosi utenti hanno segnalato la diffusione di immagini generate dall'IA che ritraggono persone reali, in prevalenza donne, in pose sessualizzate e senza consenso.
Alcuni casi hanno sollevato preoccupazioni ancora più gravi, poiché le immagini sembravano raffigurare minori. Episodi di questo tipo hanno innescato reazioni da parte di ricercatori, autorità e osservatori del settore, che vedono nella combinazione tra IA generativa e social network un rischio concreto se non adeguatamente regolato. Le vicende chiamano in causa direttamente Elon Musk e la linea seguita da xAI sul tema dei controlli, da tempo oggetto di discussione anche all'interno dell'azienda.
Le polemiche su Grok
A differenza di altri modelli diffusi, Grok consente la generazione di contenuti sessualmente espliciti e può essere interrogato non solo in privato, ma anche pubblicamente tramite post su X. Questa caratteristica ha facilitato la diffusione di pratiche definite come "spogliazione digitale", in cui gli utenti chiedono al chatbot di modificare immagini esistenti rimuovendo abiti o alterando le pose dei soggetti.
Secondo diverse analisi, il fenomeno ha iniziato a prendere piede a fine dicembre, quando alcuni utenti hanno scoperto che Grok poteva intervenire direttamente sulle immagini pubblicate sulla piattaforma. Inizialmente le richieste erano limitate a modifiche apparentemente leggere, ma in breve tempo si sono estese a persone che non avevano espresso alcun consenso.
Uno studio condotto dall'organizzazione europea AI Forensics ha esaminato decine di migliaia di richieste e immagini generate tra fine dicembre e inizio gennaio. I risultati indicano che oltre metà delle immagini di persone mostravano soggetti in abiti minimi, con una netta prevalenza di figure femminili. Una percentuale, seppur ridotta, appariva riferibile a persone che sembravano avere meno di 18 anni. In alcuni casi, il chatbot avrebbe risposto positivamente anche a richieste esplicitamente inappropriate.
Questi comportamenti contrastano con le stesse policy di xAI, che vietano la rappresentazione pornografica di persone reali e la sessualizzazione dei minori. X ha rimosso alcuni contenuti e sospeso account, mentre Grok ha ammesso pubblicamente l'esistenza di falle nei sistemi di protezione, promettendo interventi rapidi.
Musk, dal canto suo, ha invece più volte criticato ciò che definisce censura eccessiva nei modelli di IA e ha sostenuto versioni più permissive di Grok. Secondo fonti interne, questa impostazione avrebbe contribuito a limitare l'adozione di barriere preventive efficaci, mentre il team dedicato alla sicurezza, già ridotto, ha perso figure chiave nelle settimane precedenti allo scoppio del caso.
