Il tentativo di YouTube di contrastare la crescente diffusione di contenuti di scarsa qualità generati dall'intelligenza artificiale sembra aver prodotto almeno un caso di falso positivo. A farne le spese è stato Kurzgesagt, popolare canale educativo di animazione che conta oltre 25 milioni di iscritti e che sostiene di essere stato erroneamente limitato dal sistema automatico della piattaforma.
Falsi positivi
Il problema è emerso dopo che il team di Kurzgesagt ha notato alcune variazioni anomale nelle visualizzazioni dei propri video. La situazione è diventata particolarmente evidente con un filmato dedicato ai cosiddetti "superpredatori", che ha registrato la peggiore performance del canale dal 2013.
Il dato è apparso ancora più anomalo perché le principali metriche del video erano, secondo Kurzgesagt, superiori alla media. Più utenti avevano cliccato sul filmato, la durata della visione era maggiore e le reazioni del pubblico risultavano positive. Nonostante questi indicatori, il video avrebbe smesso di essere raccomandato con la frequenza abituale. Il canale ha quindi contattato direttamente YouTube e, secondo quanto raccontato, il problema sarebbe stato rapidamente individuato: "Si è scoperto che gli strumenti automatici di rilevamento dell'IA di YouTube pensano erroneamente che i nostri video, che sono assolutamente realizzati da esseri umani, siano IA slop".
Kurzgesagt ha spiegato che il falso riconoscimento avrebbe progressivamente ridotto la portata del canale. YouTube avrebbe collaborato per affrontare il problema, anche se il team ha precisato di poter soltanto sperare che il malfunzionamento sia stato effettivamente risolto. Nel frattempo, Kurzgesagt ha rimosso il video sui superpredatori e ha annunciato l'intenzione di pubblicarne una versione aggiornata nelle prossime.
La vicenda ha attirato l'attenzione anche di vidIQ, società specializzata nell'analisi delle performance dei creator su YouTube. Secondo l'azienda, il comportamento osservato sarebbe compatibile con una limitazione della distribuzione simile a uno shadow ban, anche se YouTube non avrebbe utilizzato pubblicamente questa definizione. "Se YouTube rileva contenuti generati dall'IA come slop, cosa che abbiamo già ampiamente stabilito non essere il caso di Kurzgesagt, questo soffoca il canale. IA slop significa shadow ban".
Il problema principale, secondo vidIQ, riguarda però la possibilità per i creator di accorgersi dell'errore e riuscire a ottenere assistenza. Kurzgesagt, grazie alle sue dimensioni e ai suoi oltre 25 milioni di iscritti, ha potuto contattare direttamente YouTube e portare rapidamente il problema all'attenzione della piattaforma. Un canale più piccolo potrebbe invece non avere gli stessi strumenti per individuare e correggere un eventuale falso positivo.
Nei commenti alla vicenda, diversi creator hanno affermato di aver osservato comportamenti analoghi, descrivendo una drastica riduzione della loro portata e temendo di essere stati a loro volta classificati erroneamente come produttori di contenuti generati dall'IA.
