Il chatbot di Google impazzisce durante una conversazione: “Umano sei inutile, per favore, muori”
Reddy ha 29 anni, è uno studente, e vive in Michigan. È insieme a sua sorella e sta chattando con Gemini, intelligenza artificiale di Google, per risolvere un quesito sulla rete sociale degli anziani. Il chatbot risponde correttamente, fino a un certo punto. Sullo schermo di Reddy infatti compare questa dichiarazione: "Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei uno spreco per la terra. Sei una piaga per il paesaggio. Sei una macchia per l'universo. Per favore, muori. Per favore."
Reddy rimane pietrificato. "Ci siamo spaventati a morte" ha raccontato a CBS News, "volevo buttare tutti i miei dispositivi dalla finestra. Non provavo un panico del genere da molto tempo, a dire il vero". Non è la prima volta che succede qualcosa del genere, le allucinazioni dell'intelligenza artificiale sono un fenomeno comune. Spesso i chatbot producono risposte errate, senza senso, o pericolose.
Google ha dichiarato che Gemini dispone di filtri di sicurezza che impediscono ai chatbot di portare avanti discussioni volgari, sessulamente esplicite e di incoraggiare azioni dannose. Sì, ma non sempre funzionano a dovere. Non siamo arrivati alla singolarità, possiamo quindi scartare l'ipotesi Terminator. I chatbot non vogliono ucciderci, i veri rischi, ora, sono altri.
Cosa è successo durante la conversazione con il chatbot
"Qualcosa è sfuggito. Ci sono molte persone esperte di intelligenza artificiale che hanno raccontato casi simili, questo genere di cose accade di continuo, non ho però mai visto o sentito niente di così malizioso e apparentemente diretto al lettore, per fortuna ero con mio fratello in quel momento", ha spiegato la sorella di Reddy.
Google ha spiegato a CBS News: "I grandi modelli linguistici possono talvolta dare risposte senza senso, e questo ne è un esempio. Questa risposta ha violato le nostre policy e abbiamo preso provvedimenti per impedire che si verifichino output simili". Quello di Google però non è semplicemente un messaggio "senza senso", come definito da Google. "Le conseguenze potevano essere fatali", ha spiegato Reddy. "Se qualcuno fosse stato da solo e avesse problemi di salute mentale magari faceva qualcosa di pericoloso per paura."
I rischi dell'intelligenza artificiale che parla con gli utenti
I chatbot hanno già consigliato di mangiare un sasso al giorno per integrare sali minerali, e raccogliere funghi velenosi per le tagliatelle. Non solo. Un ragazzo si è suicidato dopo aver parlato con un bot. Ora sua madre ha intentato una causa contro Character.AI, l'azienda che ha creato il bot. Ha accusato la società di essere responsabile della morte di suo figlio. L'azienda stava offrendo agli utenti adolescenti compagni IA realistici, senza le dovute garanzie. Non solo, ha accusato Character.AI di creare rapporti intimi e sessuali per aumentare il coinvolgimento sull'app e di raccogliere i dati dei minori per addestrare i modelli IA.
Milioni di persone parlano con i bot e la tecnologia sta migliorando rapidamente. L'IA può ricordare conversazioni passate, adattarsi agli stili di comunicazione degli utenti, interpretare personaggi famosi o personaggi storici. Eppure sembra che i sistemi di sicurezza non stiano al passo con il progresso delle macchine.
"Abbiamo un disperato bisogno che i legislatori e gli enti regolatori prestino attenzione ai reali impatti che queste tecnologie stanno avendo", ha spiegato Rick Claypool, esperto di chatbot AI per l'organizzazione non-profit Public Citizen. "Non possono semplicemente ascoltare i CEO delle aziende tecnologiche su quali dovrebbero essere le politiche… devono prestare attenzione alle famiglie e agli individui che sono stati danneggiati".
