OpenAI e Anthropic stanno lavorando a un nuovo modello di previsione dell'età, in grado di applicare automaticamente misure di protezione per gli utenti di età inferiore ai 18 anni. La protezione e la sicurezza delle persone, soprattutto dei minori, diventano sempre più cruciali, e i chatbot stanno introducendo nuove misure preventive. Vediamo tutte le novità.
Un modello in grado di prevedere l’età dell’utente
OpenAI, secondo quanto annunciato, è nelle prime fasi di implementazione di un modello in grado di prevedere l'età dell'utente in base a diversi fattori non specificati. Se si ritiene che un account appartenga a un minore, verranno applicate automaticamente delle misure di protezione. Chiaramente si tratta di strumenti che potrebbero non essere accurati: in caso di errore, gli utenti maggiorenni dovranno successivamente verificare la loro età. Non è la prima volta che si parla di strumenti simili, ma resta un certo scetticismo, perché i criteri con cui il modello stima l'età degli utenti non sono noti.
Ad ogni modo, OpenAI ha istituito un consiglio di esperti sul benessere e sull'IA per definire quali siano le interazioni salutari per tutte le età. Sono state quindi fornite indicazioni sui controlli parentali e sulle notifiche ai genitori, in modo da proteggere ulteriormente gli utenti. OpenAI ha anche aggiunto nuove risorse approvate da esperti, come una guida per le famiglie in modo da aiutare gli utenti a utilizzare l'IA in modo responsabile, nonché consigli per i genitori.
"I bambini e gli adolescenti potrebbero trarre beneficio dagli strumenti IA se questi fossero bilanciati da interazioni umane che, secondo la scienza, sono fondamentali per lo sviluppo sociale, psicologico, comportamentale e persino biologico. Le esperienze dei giovani con l'IA dovrebbero essere attentamente supervisionate e discusse con adulti di fiducia per incoraggiare una revisione critica di ciò che offrono i bot IA e per incoraggiare lo sviluppo del pensiero indipendente e delle competenze dei giovani", ha detto Arthur C. Evans Jr, CEO dell'American Psychological Association.
Gli obiettivi
Gli obiettivi attuali sono:
- Mettere al primo posto la sicurezza degli adolescenti a prescindere da qualsiasi altro obiettivo
- Incoraggiare le relazioni offline e le risorse affidabili
- Trattare gli adolescenti in quanto tali e non da adulti
- Essere trasparenti stabilendo aspettative chiave
Questi sono i principi U18 descritti da ChatGPT, basati su indicazioni fornite da esperti. Ad ogni modo, ricordiamo che invece Claude non accetta utenti sotto i 18 anni. Voi che ne pensate? Il nuovo modello in grado di prevedere l'età dell'utente potrebbe essere utile o andrebbero apportate ben altre modifiche?
