Dopo essere stata citata in giudizio per il suicidio di un adolecente, Character.AI ha ufficialmente deciso di vietare i chatbot a chiunque abbia meno di 18 anni. Una mossa che ci ricorda la proposta di legge annunciata proprio poche ore fa da parte di due senatori USA, secondo i quali i minorenni non dovrebbero avere assolutamente accesso a nessun tipo di compagno virtuale o chat basata sull'intelligenza artificiale. I rischi, secondo quanto analizzato, sono estremamente preoccupanti, ed è proprio per questo motivo che è stata presa questa decisione. Facciamo il punto della situazione.
Character.AI vieta le chat ai minorenni
"La prima decisione che abbiamo preso come Character.AI è che rimuoveremo la possibilità per gli utenti sotto i 18 anni di partecipare a qualsiasi conversazione aperta con l'IA sulla nostra piattaforma", ha detto Karandeep Anand, CEO di Character.AI, a TechCrunch. Secondo Anand, le chat aperte in cui l'IA agisce come un interlocutore o addirittura come un amico, piuttosto che come uno strumento creativo, possono rivelarsi particolarmente rischiose per i bambini. L'obiettivo è quindi quello di vietare le chat aperte, ma di indirizzare i minori verso strumenti più utili.
Entro il 25 novembre verrà eliminato gradualmente l'accesso al chatbot e verranno implementati strumenti interni per verificare l'età dell'utente. Quest'ultimi non prevedono immediatamente l'utilizzo di riconoscimenti facciali o documenti ufficiali, ma si basano sull'analisi del comportamento degli utenti e su strumenti di terze parti come Persona.
In seguito ad alcune misure di sicurezza introdotte di recente, tra personaggi filtrati e monitoraggio parentale, l'azienda ha perso gran parte della sua base di utenti sotto i 18 anni. "Possiamo dare per scontato che molti dei nostri utenti adolescenti saranno delusi, quindi prevediamo un ulteriore calo", ha detto Anand. "È difficile dirlo con certezza: tutti lasceranno completamente la piattaforma o alcuni passeranno alle nuove esperienze che stiamo sviluppando da quasi sette mesi?"
Le alternative
Secondo quanto annunciato, Character.AI ha intenzione di indirizzare i minori verso altri strumenti. "Non stiamo chiudendo l'app", ha detto Anand. "Stiamo solo chiudendo le chat aperte per i minori di 18 anni perché speriamo che migrino verso altre esperienze che migliorino nel tempo. Quindi raddoppiamo la posta in gioco sui giochi basati sull'intelligenza artificiale, sui brevi video basati sull'IA e sulla narrazione. Questa è la grande scommessa che stiamo facendo per riportare i minori di 18 anni, se decidono di abbandonarci". E voi che ne pensate? Fatecelo sapere nei commenti.
