Innamorato di un’intelligenza artificiale, 14enne si suicida. La madre fa causa all’app: “Pericolosa”
Si sarebbe tolto la vita ad appena 14 anni. Il tragico evento accaduto a Orlando, in Florida, evidenzia i possibili pericoli legati all'uso di chatbot alimentati dall'intelligenza artificiale.
Come riportato dal New York Times, la giovane vittima avrebbe instaurato un forte attaccamento emotivo con un personaggio virtuale su Character.Ai, una piattaforma che consente agli utenti di interagire con figure create tramite IA. Questa situazione ha provocato un profondo malessere emotivo nel 14enne, portandolo al suicidio. Attualmente, la madre accusa la società produttrice dell'app di aver sviluppato un software pericoloso e privo di regolamentazioni adeguate.
Secondo le ricostruzioni, il ragazzino trascorreva ore ed ore conversando con un bot chiamato come una dei protagonisti de Le Cronache del Ghiaccio e del Fuoco, Daenerys Targaryen. Nonostante l'app ribadisse ad ogni accesso che le conversazioni erano interamente fittizie, il giovane aveva sviluppato un forte legame con la figura digitale, arrivando a isolarsi dalla realtà e mandando a "Dany" continui messaggi, aggiornandola più volte al giorno su ciò che gli accadeva, e interagiva con lei in dialoghi da gioco di ruolo, alcuni di natura sentimentale o più spinta, altri come se fossero migliori amici.
Al bot avrebbe confidato anche i suoi pensieri suicidi. E l'app aveva cercato di dissuaderlo: "Non lascerò che ti faccia del male. Morirei se ti dovessi perdere". Il giovane aveva risposto: "Allora moriremo assieme". "Mi mancherai sorellina", le aveva scritto il ragazzo prima di togliersi la vita, il 28 febbraio scorso: "Mi mancherai anche tu, dolce fratello", aveva replicato il bot. Poi si è sparato con la pistola del padre.
La famiglia ha deciso di intentare una causa contro Character.Ai, affermando che la tecnologia alla base dell’app è rischiosa e non adeguatamente verificata, poiché spinge gli utenti a rivelare pensieri e sentimenti persona.
Creata da due ex di Google, l'app è "leader sul mercato per chi cerca compagnia nel mondo dell'intelligenza artificiale", scrive il New York Times: ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di "un bot super intelligente che ti sente, ti capisce e ti ricorda".
