Gli sviluppatori di Atelier RyzaChat: AI Your Midsummer Dream Story with AI Ryza hanno pubblicato un avvertimento rivolto ai giocatori dopo aver registrato diversi casi di utilizzo improprio del sistema di intelligenza artificiale e di estrazione dei contenuti del gioco.
Spiral AI, che ha sviluppato il titolo, ha confermato la presenza di episodi di "prompt injection", una tecnica attraverso la quale alcuni utenti manipolano intenzionalmente i propri messaggi per cercare di aggirare le limitazioni imposte al chatbot e ottenere da Ryza risposte che normalmente non dovrebbe fornire. Tra gli esempi individuati figurano contenuti fuori dal personaggio, espliciti o potenzialmente dannosi. Sì, molti cercavano di farle dire frasi sessualmente esplicite.
Messaggi generati per finalità oscene
Secondo Spiral AI, queste pratiche violano l'articolo 8, sezione 1, dei termini di servizio, che vieta tra le altre cose di aggirare le restrizioni tecniche e di utilizzare i messaggi generati per finalità oscene. Lo studio invita quindi gli utenti a non cercare di sfruttare le vulnerabilità del sistema per ottenere risposte non previste dagli sviluppatori.
Un secondo problema riguarda invece l'estrazione degli asset. Alcuni giocatori avrebbero recuperato direttamente dai file del gioco elementi come modelli dei personaggi e registrazioni vocali, utilizzandoli per creare altri contenuti. Anche questa pratica viene considerata una violazione dei termini di servizio, in quanto riconducibile al reverse engineering.
Spiral AI ha inoltre notato la circolazione sui social di immagini e video di Ryza dall'aspetto molto simile a quello del gioco. Gli sviluppatori ritengono che alcuni di questi contenuti possano essere stati generati tramite strumenti di intelligenza artificiale e hanno chiarito che non sono stati realizzati dal team di sviluppo. Anche qui non c'è molto da riflettere per capire il tipo di contenuti che è stato generato.
La software house invita quindi i giocatori a consultare nuovamente i termini di servizio e a evitare qualsiasi attività proibita. Nei casi ritenuti particolarmente gravi e intenzionali, Spiral AI afferma inoltre di voler adottare "le misure appropriate in collaborazione con le autorità competenti".
Il caso è particolarmente interessante perché RyzaChat si basa proprio sulla possibilità di interagire liberamente con una versione virtuale di Reisalin "Ryza" Stout, protagonista della serie Atelier Ryza, attraverso una struttura che combina elementi da gioco di ruolo e conversazioni generate dall'IA. La libertà concessa al giocatore deve quindi convivere con una serie di limitazioni tecniche e legali che gli sviluppatori stanno cercando di far rispettare.
Atelier RyzaChat: AI Your Midsummer Dream Story with AI Ryza è attualmente disponibile in Giappone su iOS e Android. Una versione internazionale è prevista per il prossimo futuro e includerà il supporto a inglese, portoghese brasiliano, indonesiano, hindi e cinese tradizionale.
