Un episodio raccontato da uno sviluppatore indipendente sta alimentando nuove discussioni sulla capacità dei sistemi di intelligenza artificiale di accedere o ricostruire informazioni che dovrebbero rimanere private. Al centro della vicenda c'è Operation Octo, un tower defense disponibile su Steam realizzato da un singolo sviluppatore, noto online come KlubKofta.
In un post pubblicato su Reddit, lo sviluppatore ha condiviso alcune schermate di una conversazione Discord nella quale un giocatore aveva utilizzato Google Gemini per rivolgere alcune domande sul gioco. Inizialmente le risposte dell'IA contenevano informazioni sorprendentemente specifiche e poco conosciute, spingendo KlubKofta a suggerire di provare a chiedere informazioni sui contenuti futuri.
Privacy addio?
È a quel punto che sarebbe emerso il dettaglio più problematico. Gemini avrebbe infatti indicato il nome di un personaggio non ancora annunciato pubblicamente: Vantage Tripod.
A player found out the ACTUAL name of my game's upcoming character from the Google Search AI - I had never told the name to anyone.
by u/KlubKofta in IndieDev
Secondo lo sviluppatore, il nome non era mai stato comunicato a nessuno e non era facile desumerlo da altri indizi. "In qualche modo l'IA ha tirato fuori il nome esatto del personaggio "Vantage Tripod", che non avevo mai menzionato a nessuno".
La situazione è diventata ancora più curiosa quando KlubKofta ha verificato dove fosse effettivamente presente quel nome. Secondo quanto riferito, l'informazione era stata inserita soltanto in un documento personale di Google Docs, mai condiviso online. "Per quanto ne so, l'unico posto in cui questa informazione esiste in formato digitale è all'interno di uno dei miei Google Docs, e non ero io a parlare con l'IA!".
La possibilità che Gemini avesse avuto accesso direttamente al documento privato ha suscitato immediatamente domande sulla gestione dei dati da parte dei servizi Google. Alcuni utenti hanno infatti ricordato che determinati servizi Google possono prevedere l'utilizzo dei contenuti di Drive nell'ambito delle funzionalità legate all'intelligenza artificiale. Google, interpellata da Polygon sulla vicenda, ha però negato che i documenti privati di Workspace vengano utilizzati in questo modo per addestrare i modelli generativi: "Google non analizza i contenuti privati di Workspace, che includono Drive e Docs, per addestrare i nostri modelli di IA fondamentali, incluso Gemini".
L'azienda ha inoltre precisato che i documenti condivisi pubblicamente possono invece essere indicizzati qualora qualcuno abbia pubblicato i relativi link online, rendendoli accessibili ai crawler dei motori di ricerca. La spiegazione non ha però risolto il dubbio dello sviluppatore. KlubKofta sostiene infatti che il documento contenente il nome di Vantage Tripod non fosse mai stato condiviso e che l'informazione non fosse disponibile pubblicamente.
Per questo motivo, al momento, non è possibile stabilire come Gemini abbia ottenuto il dettaglio. La dichiarazione dello sviluppatore rappresenta un'esperienza individuale e non costituisce di per sé una prova che il sistema abbia avuto accesso al suo Google Docs privato. Rimane inoltre possibile, almeno in linea teorica, che il nome sia stato ricostruito attraverso una fonte non identificata, che fosse finito online in qualche forma senza che l'autore ne fosse consapevole oppure che la risposta dell'IA fosse il risultato di una generazione errata casualmente coincidente con il nome reale. Senza ulteriori verifiche tecniche, non è quindi possibile attribuire con certezza l'origine dell'informazione a un accesso diretto al documento.
