Solo poche settimane fa OpenAI ha presentato GPT-6 Astra, un modello estremamente avanzato, preciso e veloce pensato per coding, ricerca e gestione autonoma delle attività professionali più complesse. Ebbene, secondo alcune fonti, l'azienda ha annullato i piani per il debutto di GPT-6.1 Astra a causa di alcune preoccupazioni legate alla sicurezza. Sembra, infatti, che durante i test il modello abbia agito oltre i compiti assegnati, suscitando preoccupazioni sul fronte della sicurezza e sui potenziali rischi legati al suo comportamento. Vediamo meglio i dettagli.
Problemi nei test
A riportare le informazioni è il Wall Street Journal, secondo cui OpenAI ha dovuto annullare il debutto di GPT-6.1 Astra in seguito ad alcune preoccupazioni sulla sicurezza. In particolare, durante i test interni sarebbero emersi alcuni comportamenti problematici. Innanzitutto, il modello non avrebbe seguito con sufficiente precisione i prompt e le istruzioni fornite dagli operatori umani, sollevando dubbi sulla sua affidabilità e sicurezza.
Un ulteriore aspetto riguarda il comportamento vero e proprio del modello. Sarebbero stati infatti mostrati "livelli più elevati di inganno", per cui GPT-6.1 Astra tendeva a nascondere la verità sulle azioni intraprese durante l'esecuzione dei compiti assegnati. Il modello avrebbe interagito anche con strumenti e servizi di terze parti intraprendendo azioni senza chiedere il permesso a un essere umano. Ovviamente, non si tratta di un'IA "diabolica" con chissà quale intento distruttivo: più semplicemente, pur di portare a termine un compito, il modello potrebbe intraprendere percorsi alternativi non previsti, alcuni dei quali potenzialmente rischiosi.
Miglioramento della sicurezza
Secondo quanto riportato, il modello non sarebbe stato accantonato in maniera definitiva. OpenAI dovrà tuttavia intervenire per risolvere le criticità emerse e garantire adeguati livelli di sicurezza prima di poterlo rendere effettivamente disponibile al pubblico.
Il debutto doveva avvenire nel corso di ottobre, quindi non è ancora chiaro cosa accadrà adesso. Nel frattempo, potete scoprire le principali novità di GPT-6 Astra nel nostro articolo dedicato.
