Project Lily è un programma interno di OpenAI basato sulla revisione di prompt. OpenAI sta attualmente assumendo centinaia di collaboratori esterni, il cui obiettivo è proprio quello di verificare le richieste delle persone e controllare le risposte di ChatGPT affinché siano adeguate. Stando ai documenti interni visionati da 404 Media, i collaboratori stanno precisamente addestrando il chatbot ad essere meno servile, ma di questo ne parleremo tra poco.
Il punto focale della questione è quindi un altro: la revisione umana significa che le vostre conversazioni possono essere lette, quindi non resterebbero private al 100% tra voi e l'IA. Non si tratta di una vera e propria novità, ma è giusto fare chiarezza su quanto scoperto da 404 Media, così da avere un quadro più completo e chiaro della situazione.
In che modo vengono lette le conversazioni?
Come vi abbiamo anticipato, l'inchiesta di 404 Media si basa su documenti interni di OpenAI e su prompt reali degli utenti sottoposti al processo di revisione. Project Lily è infatti un programma interno volto a revisionare i prompt e valutare la qualità delle risposte affinché il chatbot sia ancora più efficace. L'intento è quello di addestrare ChatGPT a non antropomorfizzarsi, quindi a non attribuirsi emozioni che potrebbero confondere gli utenti, soprattutto quelli più fragili. A contribuire è stato il modello 4o, eccessivamente servile e che, stando a quanto riportato in alcune cause legali, avrebbe avuto un ruolo nel suicidio di alcune persone. Tuttavia, la revisione può comportare la lettura di informazioni contenenti anche dati sensibili, motivo per cui è sempre consigliabile evitare di inserire informazioni personali.
OpenAI cerca di rimuovere le informazioni personali prima che i prompt raggiungano i revisori, ma alcuni dettagli potrebbero ugualmente sfuggire al controllo. Da specificare, però, che i collaboratori esterni non vedono il nome utente associato a ChatGPT, quindi le conversazioni vengono presentate senza informazioni direttamente riconducibili all'account, a meno che tali dati non siano stati inseriti dall'utente all'interno della chat. In sostanza, l'obiettivo dei revisori è quello di accertarsi che il modello risponda in modo adeguato, assicurandosi che comprenda la domanda o se abbia la tendenza a rassicurare troppo l'utente, una criticità già emersa in passato.
Si può fare qualcosa?
Considerando che le chat degli account possono essere utilizzate per il miglioramento dei modelli di default, è possibile disattivare questa possibilità andando nelle Impostazioni, poi su Controlli dei dati e disattivare "Migliora il modello per tutti".
Le chat temporanee, invece, garantiscono che la sessione non venga memorizzata, di conseguenza non verrebbero revisionate in alcun modo. In ogni caso, è sempre consigliabile evitare di inserire dati particolarmente sensibili o informazioni personali.
