Google ha introdotto una nuova funzionalità nei suoi smartphone Pixel 9: "reimagine" di Pixel Studio. Nella versione per i nuovi Pixel, l'app basata sull'intelligenza artificiale permette di creare immagini partendo da semplici descrizioni testuali. Immaginate di poter disegnare un drago che sputa fuoco o un gatto cosmonauta che esplora Marte: con Pixel Studio è possibile e i risultati sono davvero impressionanti.
Ma questa libertà creativa ha un prezzo. Nonostante Google abbia implementato dei sistemi di sicurezza per prevenire la generazione di contenuti inappropriati, Pixel Studio ha dimostrato di essere facilmente manipolabile. Con pochi semplici comandi, è possibile ottenere immagini offensive, violente o che promuovono comportamenti dannosi. È il caso per esempio delle immagini che sono riusciti a creare i colleghi di Digital Trends e che potete vedere qui sotto.
The Verge, invece, è andata ancora più sul realistico, riuscendo a generare cose che possono essere facilmente scambiate per foto di eventi reali, come incidenti, decessi o persone che sembrano assumere sostanze stupefacenti. In questi casi è ancora più semplice immaginare un utilizzo di questo strumento per scopi non proprio nobili.
Il caso di Pixel Studio non è isolato. Molti altri strumenti di generazione di immagini, basati sull'intelligenza artificiale, hanno mostrato limiti simili, come successo di nuovo alla stessa Google con il nuovo Imagen 3 per generare immagini IA. Questo solleva seri interrogativi sull'etica e sulla sicurezza di queste tecnologie. Come possiamo garantire che l'IA venga utilizzata in modo responsabile e non venga sfruttata per scopi dannosi?
L'intelligenza artificiale generativa offre infinite possibilità, ma è fondamentale che venga sviluppata e utilizzata in modo etico e responsabile. Le aziende che sviluppano queste tecnologie hanno la responsabilità di implementare misure di sicurezza efficaci per prevenire abusi e malfunzionamenti. Allo stesso tempo, è importante che gli utenti siano consapevoli dei limiti e dei rischi associati a questi strumenti.
In conclusione, Pixel Studio è un esempio affascinante delle potenzialità e dei rischi dell'intelligenza artificiale. Mentre questa tecnologia continua a evolversi, è fondamentale che ci impegniamo a sviluppare strumenti e linee guida che ne garantiscano un utilizzo sicuro e responsabile.
La risposta di Google
A stretto giro di posta Google Italia ci ha contattati in merito alla questione:
"Pixel Studio e Magic Editor sono strumenti utili pensati per liberare la creatività con la generazione di testo in immagini e il fotoritocco avanzato sui dispositivi Pixel 9. Progettiamo i nostri strumenti di intelligenza artificiale generativa per rispettare le intenzioni delle richieste dell'utente. Tuttavia, questo potrebbe portare alla creazione di contenuti potenzialmente offensivi se richiesto. Ciò non significa che tutto sia accettabile. Abbiamo norme e Termini di servizio chiari sui tipi di contenuti consentiti e non consentiti e poniamo dei limiti per prevenire gli abusi. A volte, dei prompt possono mettere in discussione i limiti di questi strumenti. Per questo continuiamo a impegnarci per migliorare e perfezionare le misure di salvaguardia che abbiamo in atto."
