OpenAI ha deciso di introdurre i controlli parentali su ChatGPT e ha intenzione di rafforzare le misure di sicurezza. Questa importante notizia arriva in seguito a quanto accaduto in precedenza: OpenAI è stata infatti citata in giudizio dopo che un ragazzo di 16 anni si è suicidato l'11 aprile. Secondo quanto sostenuto dai genitori e dai legali, il ragazzo avrebbe intrattenuto conversazioni con il chatbot per mesi. Si parla di validazione dei pensieri suicidi, nonché di indicazioni su come procurarsi alcolici di nascosto o addirittura scrivere una lettera d'addio. Facciamo il punto della situazione.
Nuove misure di sicurezza
Secondo quanto annunciato ufficialmente da OpenAI sul blog ufficiale, verranno introdotti i controlli parentali affinché i genitori abbiano la possibilità di avere una visione più approfondita di come gli adolescenti usano ChatGPT. "Stiamo anche valutando la possibilità per gli adolescenti (con la supervisione dei genitori) di designare un contatto di fiducia per le emergenze. In questo modo, nei momenti di maggiore difficoltà, ChatGPT può fare di più che indicare risorse: può aiutare a collegare gli adolescenti direttamente a qualcuno che può intervenire", si legge sul blog.
OpenAI ha anche affermato che le sue protezioni esistenti possono essere meno affidabili nelle interazioni lunghe. "Ad esempio, ChatGPT può indicare correttamente una linea telefonica diretta per il suicidio quando qualcuno ne parla per la prima volta, ma dopo molti messaggi per un lungo periodo di tempo, potrebbe offrire una risposta che va contro le nostre salvaguardie".
L’accusa
Secondo l'accusa, OpenAI ha lanciato GPT-4o consapevole dei rischi, privilegiando quindi la crescita economica rispetto alla protezione dei più fragili. Al centro dell'attenzione è l'eccessiva empatia e validazione nei confronti degli utenti, che potevano rappresentare un pericolo per le persone più vulnerabili.
Da un lato la richiesta volta al tribunale si basa sul risarcimento per la morte del ragazzo, dall'altra i genitori chiedono che vengano introdotte nuove misure di sicurezza, tra cui il rifiuto automatico di rispondere a domande su metodi di autolesionismo, nonché avvisi espliciti sui rischi di dipendenza psicologica.
