Che i social network siano ormai invasi da contenuti generati dall'intelligenza artificiale non è una novità. Instagram, in particolare, è sempre più popolato non solo da Reel realizzati con l'IA, ma anche da veri e propri account IA che possono contare già su migliaia di follower. A riconoscere il problema è stato lo stesso Adam Mosseri, a capo di Instagram, secondo cui la frustrazione degli utenti è destinata ad aumentare.
La situazione, infatti, potrebbe peggiorare ulteriormente nei prossimi due anni, alimentando anche le preoccupazioni dei creatori di contenuti, sempre più timorosi che l'intelligenza artificiale possa mettere a rischio il loro lavoro.
Una situazione ingestibile?
Mosseri è intervenuto nel podcast "Colin and Samir", affrontando le preoccupazioni dei creatori di contenuti legate alla possibile perdita del lavoro e alla crescente diffusione di contenuti generati dall'IA, che rischiano di sottrarre loro visibilità e attenzione. Un altro problema riguarda il numero sempre maggiore di account IA. Già lo scorso agosto Instagram ha iniziato a richiedere a questi profili di identificarsi come generati dall'intelligenza artificiale. Tuttavia, il sistema di rilevamento automatico non è sempre preciso e può portare a etichettare erroneamente anche i creator reali.
La questione si complica ulteriormente nel caso degli account ibridi, gestiti da persone che alternano la pubblicazione di contenuti autentici a quelli generati dall'IA. Non manca poi il fenomeno del cosiddetto "AI slop", termine utilizzato per descrivere l'enorme quantità di contenuti generati dall'intelligenza artificiale, spesso di bassa qualità e pubblicati in modo massiccio sui social network.
"Non solo la situazione sta peggiorando, ma continuerà a peggiorare. Credo che nei prossimi due anni assisteremo a un aumento della frustrazione e della rabbia, in parte giustificate, in parte infondate, e questo renderà le cose difficili per molte persone, non solo nel settore". Mosseri specifica che ovviamente è impossibile vietare del tutto contenuti simili, trattandosi di una piattaforma popolata da centinaia di milioni di utenti al giorno. "Non credo sia realistico per noi cercare di bandire i contenuti generati dall'IA dalla piattaforma", ha detto.
"Penso che le persone siano preoccupate per molte cose. Credo che siano preoccupate riguardo alla proprietà dei propri contenuti e al fatto che i modelli vengano addestrati proprio su quei contenuti. Penso che siano preoccupati... c'è chi è preoccupato per la sicurezza. Sono preoccupati per la perdita del posto di lavoro, per il fatto che l'IA possa sostituire qualunque cosa facciano, che si tratti di creatori di contenuti, ingegneri o matematici. Insomma, fondamentalmente, secondo me, quando si ha una conversazione sincera con qualcuno, tutto si riduce alla paura di essere in qualche modo lasciati indietro".
Ancora diversi problemi
Come anticipato, lo scorso agosto Instagram ha già provato a mettere un freno ai profili generati dall'IA che si presentano come persone reali. La piattaforma ha infatti modificato la dicitura dell'etichetta da "Creator AI" a "Profilo generato dall'IA", con l'obiettivo di garantire maggiore trasparenza.
Tuttavia, gli algoritmi di riconoscimento non sono sempre accurati e possono finire per contrassegnare erroneamente anche profili appartenenti a creator reali. Ricordiamo, però, che Meta in precedenza ha dato i meriti all'IA se è aumentato il tempo trascorso degli utenti all'interno di Instagram.
