Un recente studio condotto dai ricercatori del Tow Center for Digital Journalism della Columbia University ha messo in luce alcune gravi lacune in termini di accuratezza e affidabilità del motore di ricerca potenziato dall'IA di OpenAI.
Lo studio ha analizzato le risposte di ChatGPT Search a duecento citazioni provenienti da venti diverse pubblicazioni online. I risultati sono stati sorprendenti: il chatbot ha fornito risposte parzialmente o completamente errate in centocinquantatre occasioni, dimostrando una preoccupante tendenza a inventare fonti e attribuire citazioni in modo inesatto.
Lo studio che "affossa" ChatGPT Search
Come ricorderete, OpenAI, l'azienda dietro il popolare chatbot ChatGPT, ha annunciato ad ottobre un nuovo strumento di ricerca per gli abbonati, promettendo "risposte rapide e tempestive con collegamenti a fonti web pertinenti": si tratta di ChatGPT Search.
Stando allo studio dei ricercatori, però, il motore di ricerca è tutt'altro che affidabile. Emblematico è il caso in cui ChatGPT Search ha attribuito una citazione di una lettera all'editore dell'Orlando Sentinel a un articolo pubblicato su Time. In un altro esempio, quando gli è stato chiesto di identificare la fonte di una citazione da un articolo del New York Times sulle balene in via di estinzione, ha restituito un collegamento a un sito web che aveva plagiato l'articolo originale.
Ancora più allarmante è il fatto che ChatGPT Search raramente ammette di non essere sicuro delle informazioni fornite. Solo in sette casi su duecento il chatbot ha utilizzato parole e frasi qualificanti come "appare", "è possibile" o "potrebbe", oppure ha affermato di non essere in grado di trovare l'articolo esatto.
OpenAI ha risposto alle critiche affermando che lo studio del Tow Center rappresenta un "test atipico" del prodotto e che l'azienda sta continuando a lavorare per migliorare i risultati di ricerca. Tuttavia, i risultati dello studio mettono in evidenza la necessità di una maggiore trasparenza e di un controllo più rigoroso sull'accuratezza delle informazioni fornite dai motori di ricerca basati sull'intelligenza artificiale.
In un'epoca in cui la disinformazione è un problema crescente, è fondamentale potersi affidare a strumenti di ricerca che forniscano informazioni accurate e verificabili. ChatGPT Search, allo stato attuale, non sembra essere all'altezza di questo compito.
Voi che cosa ne pensate? Arriverà mai il momento in cui i motori di ricerca basati sull'IA potranno sostituire quelli tradizionali? Diteci la vostra nei commenti qua sotto, mentre vi ricordiamo che online esiste già un chatbot IA integrato nei risultati di ricerca, anche in italiano.
