Meta ha deciso di apportare alcuni cambiamenti legati al modo in cui addestra i chatbot IA. L'obiettivo è quello di tutelare quanto più possibile la sicurezza dei minori, in particolare dopo le ultime vicende che hanno destato una certa preoccupazione. Ricordiamo infatti che, secondo quanto trapelato da un documento interno riportato da Reuters, ai chatbot di Meta era consentito avere "conversazioni romantiche o sensuali" con bambini e/o adolescenti. Facciamo il punto della situazione.
Maggiore sicurezza
Secondo quanto dichiarato da un portavoce di Meta in esclusiva a TechCrunch, l'azienda addestrerà i chatbot a non affrontare temi come disturbi dell'alimentazione, autolesionismo o suicidio. Inoltre, non sarà possibile avere conversazioni inappropriate. Pare si tratti di una misura provvisoria e che in futuro Meta rilascerà aggiornamenti ancora più importanti per tutelare i minori.
Stephanie Otway, portavoce di Meta, ha riconosciuto gli errori commessi in precedenza dai chatbot: "Con la crescita della nostra comunità e l'evoluzione della tecnologia, impariamo continuamente a capire come i giovani possono interagire con questi strumenti e rafforziamo le nostre protezioni di conseguenza", ha detto.
"Mentre continuiamo a perfezionare i nostri sistemi, stiamo aggiungendo altre protezioni come ulteriore precauzione, tra cui l'addestramento delle nostre IA a non interagire con gli adolescenti su questi argomenti, ma a guidarli verso risorse esperte, e limitando per ora l'accesso degli adolescenti a un gruppo selezionato di personaggi IA. Questi aggiornamenti sono già in corso e continueremo ad adattare il nostro approccio per garantire agli adolescenti esperienze sicure e adatte alla loro età con l'IA".
Altri cambiamenti
Meta ha intenzione di limitare anche l'accesso ad alcuni personaggi IA, dando la massima priorità esclusivamente a personalità che promuovono l'istruzione e la creatività, secondo quanto dichiarato da Otway. Ricordiamo che, in seguito al documento trapelato, il senatore Josh Hawley ha avviato un'indagine ufficiale sulle politiche dell'azienda.
