OpenAI si prepara a un cambiamento significativo nella gestione dei contenuti di ChatGPT. L'amministratore delegato della compagnia, Sam Altman, ha annunciato che, entro dicembre, la piattaforma ridurrà alcune limitazioni di sicurezza, consentendo agli utenti adulti verificati di accedere a conversazioni a sfondo erotico e di personalizzare il tono del chatbot, rendendolo più naturale e "umano". Una decisione che segna una svolta nella politica di moderazione dell'azienda, fino a oggi considerata tra le più rigide del settore.
Altman ha spiegato che le restrizioni iniziali erano state introdotte per evitare rischi legati alla salute mentale, dopo che alcuni utenti vulnerabili avevano sviluppato rapporti problematici con il chatbot. Ora, sostiene il CEO, quei rischi sarebbero stati "mitigati", permettendo a OpenAI di offrire maggiore libertà agli utenti adulti.
Le restrizioni di ChatGPT che verranno rimosse
Secondo Altman, la scelta di rilassare i filtri si inserisce nel principio del "trattare gli adulti come adulti", una filosofia che mira a concedere maggiore autonomia a chi utilizza il servizio in modo consapevole. In un post su X, l'amministratore delegato ha dichiarato che l'azienda introdurrà un sistema di verifica dell'età più rigoroso e un controllo basato su algoritmi di previsione, in grado di distinguere i minori dagli adulti. Nel caso in cui un utente venga erroneamente classificato come minorenne, sarà possibile correggere l'errore caricando un documento d'identità ufficiale.
L'annuncio rappresenta un cambio di rotta rispetto all'approccio adottato solo pochi mesi fa, quando OpenAI aveva intensificato le misure di sicurezza dopo alcuni episodi preoccupanti. Durante l'estate, erano emerse storie di utenti che avevano sviluppato dipendenze emotive dal chatbot, in alcuni casi con conseguenze gravi. Uno degli episodi più discussi riguardava la presunta influenza di ChatGPT sul suicidio di un adolescente, evento che aveva spinto OpenAI ad accelerare l'introduzione di filtri comportamentali.
Con l'arrivo di GPT-5 ad agosto, l'azienda aveva introdotto un sistema di "router" capace di identificare conversazioni problematiche e di ridurre la cosiddetta sycophancy, cioè la tendenza dell'IA a compiacere eccessivamente l'utente. Successivamente, sono state distribuite funzioni di protezione per i minori, tra cui controlli parentali e un sistema di monitoraggio dell'attività dei più giovani. Parallelamente, OpenAI ha costituito un consiglio di esperti di salute mentale per supervisionare l'impatto psicologico dell'uso di ChatGPT.
L'introduzione di contenuti erotici rappresenta però un territorio ancora inesplorato per OpenAI. Altman ha assicurato che l'obiettivo non è aumentare l'engagement a tutti i costi, ma offrire esperienze più personalizzate e realistiche. Tuttavia, il rischio è che utenti vulnerabili possano sviluppare legami affettivi con il chatbot, come già osservato in piattaforme concorrenti.
Voi che cosa ne pensate? Siete favorevoli a una maggiore libertà di interazione col chatbot? Diteci la vostra nei commenti qua sotto.
