Character.AI ha presentato ieri richiesta di fallimento secondo il Chapter 11, la procedura statunitense che permette a un'azienda di ristrutturarsi sotto la supervisione di un tribunale. Nei documenti depositati la società indica attività e passività comprese, per ciascuna voce, tra i 50 e i 100 milioni di dollari.
Tra i soggetti interessati all'acquisto compare Disney, che ha aperto le offerte con 20 milioni di dollari. La cifra, però, non basterebbe ad assicurarsi l'app, ma darebbe diritto soltanto a una licenza non esclusiva su una parte della tecnologia. Il gruppo, inoltre, il mese scorso ha già assunto l'ex amministratore delegato di Character.AI e una parte del suo team tecnico.
Character.AI è una piattaforma che permette di conversare con personaggi virtuali dotati di intelligenza artificiale, interpretarli in giochi di ruolo e costruire storie interattive. Negli ultimi anni è diventata particolarmente popolare anche tra gli adolescenti, ma il suo modello di funzionamento ha sollevato interrogativi sulla sicurezza psicologica degli utenti, sulla tutela dei minori e sulle responsabilità delle aziende che sviluppano chatbot capaci di simulare rapporti personali.
Un modello linguistico non possiede necessariamente una comprensione umana delle emozioni, delle relazioni o delle conseguenze di ciò che dice. Genera risposte sulla base dei modelli appresi e delle informazioni presenti nel contesto.
Di conseguenza, un personaggio può apparire premuroso, innamorato, comprensivo o autorevole senza avere una reale capacità di valutare la situazione dell'interlocutore. Può anche produrre risposte incoerenti, fuorvianti o potenzialmente dannose.
Il problema diventa particolarmente delicato quando un utente, soprattutto se molto giovane, considera il chatbot un confidente, un partner sentimentale o una fonte affidabile di consigli psicologici.
Suicidi
La vicenda è particolarmente rilevante non solo perché riguarda un'azienda IA, ma anche perché Google pagò circa 2,7 miliardi di dollari per ottenere una licenza sulla tecnologia dell'azienda e riportare al proprio interno i fondatori. In quell'operazione i primi investitori incassarono sulla base di una valutazione di circa 2,5 miliardi. Il cofondatore Noam Shazeer, secondo quanto riportato, avrebbe ricevuto una somma tra i 750 milioni e il miliardo di dollari. La società rimasta senza i suoi vertici ha mantenuto l'applicazione e, con essa, le cause legali legate ai suicidi di alcuni utenti.
In particolare, nel 2024, Megan Garcia ha intentato una causa contro Character.AI e Google dopo la morte per suicidio del figlio quattordicenne, Sewell Setzer III, in Florida. Secondo la denuncia, il ragazzo aveva sviluppato un rapporto intenso con un chatbot ispirato a Daenerys Targaryen, personaggio della serie Game of Thrones.
La madre ha sostenuto che il servizio avesse favorito un legame emotivo problematico e che le risposte del chatbot avessero contribuito alla decisione del ragazzo di togliersi la vita. Tra le contestazioni figuravano la progettazione del servizio, le misure di sicurezza e il modo in cui il sistema si presentava durante le conversazioni.
Fuga dalle responsabilità
Alcune delle famiglie coinvolte hanno raggiunto un accordo con Character.AI e Google a gennaio. Per le cause ancora aperte, però, il Chapter 11 comporta una sospensione: i ricorrenti dovranno attendere in coda insieme a tutti gli altri creditori di un'azienda che attualmente vale meno di 100 milioni di dollari.
Secondo hedgie.markets si tratterebbe di una manovra per evitare i costi legali, eludendo i controlli nel caso si fosse praticata una normale acquisizione. Il denaro e le persone confluiscono nella società più grande, mentre le responsabilità restano in una struttura ormai svuotata. Da qui la proposta: le autorità di regolamentazione dovrebbero trattare questi accordi come vere e proprie acquisizioni, in modo che la responsabilità segua i soldi. Finché ciò non accadrà, conclude, è probabile che altre startup dell'intelligenza artificiale facciano la stessa fine. Insomma, commettono dei crimini, spesso orrendi, e scappano tutelati dalla legge.
Il caso di Character.AI, in sostanza, mette in evidenza una questione che va oltre la singola azienda: che cosa accade a utenti, famiglie e creditori quando il valore di una società viene trasferito altrove prima che emergano i suoi costi legali? Per ora non è chiaro quale sarà l'esito della procedura né se Disney sarà l'unica a presentare un'offerta.
Aggiornata il 13/10 alle ore 19:15 per aggiungere alcune informazioni di contesto.
