L'uso di intelligenze artificiali generative sta destando grossa preoccupazione in merito al diffondersi della disinformazione online, in particolare per un aumento sostanziale dell'antisemitismo. La diffusione di contenuti che negano l'Olocausto e altre forme di incitamento all'odio contro gli ebrei sta raggiungendo livelli preoccupanti, come sottolineato da una relazione congiunta di Nazioni Unite, UNESCO e Congresso Ebraico Mondiale.
Nel testo viene evidenziato come le IA siano tra le cause principali della diffusione di contenuti antisemitici online e, più in generale, di contenuti falsi. Viene fatto l'esempio, ormai classico, dell'incitamento al consumo di colla da parte dell'IA di Google, ma si parla soprattutto di un rafforzamento delle teorie del complotto che negano l'olocausto, ossia il massacro di quasi 6 milioni di Ebrei, uccisi tra il 1939 e il 1945 nei campi di concentramento tedeschi e non solo.
Una situazione preoccupante
Il problema sarebbe sempre nell'avidità delle compagnie che gestiscono le IA. Sostanzialmente usano come fonti per arricchire i loro dataset, gli archivi che le IA elaborano per generare i loro contenuti, social network come Reddit e affini, dove testi e immagini non vengono controllati o verificati e dove alcune forme di complottismo sono particolarmente diffuse, tanto da essere amplificate dagli algoritmi delle IA, che di loro non sanno distinguere il vero da falso.
In particolare la Direttrice Generale dell'UNESCO, Audrey Azoulay, si è detta preoccupatissima per la situazione: "Se permettiamo che i fatti orribili dell'Olocausto vengano diluiti, distorti o falsificati attraverso l'uso irresponsabile dell'IA, rischiamo la diffusione esplosiva dell'antisemitismo e la graduale riduzione della nostra comprensione delle cause e delle conseguenze di queste atrocità." Per questo motivo ha dichiarato urgente applicare le linee guida dell'UNESCO, fondate su basi etiche, a queste nuove tecnologie, per ora lasciate quasi senza controllo. Insomma, si vogliono responsabilizzare le compagnie del settore, facendole collaborare con le istituzioni, per provare ad arginare certi fenomeni e promuovere un uso etico delle IA.
