Il Garante chiude Replika, l’app per parlare con un amico virtuale: “Troppi rischi per bambini e persone fragili”
Il Garante della Privacy ha deciso di chiudere Replika, la software application che permette di creare un amico o un amica virtuale con cui scrivere. Tutto funziona, come immaginabile, con l’intelligenza artificiale. Si crea un profilo, si scelgono nomi e fattezze di Replika e poi si inizia a parlare. Non ci sono limiti alla conversazione. E proprio la mancanza di limiti ha spinto il Garante per la Privacy ha pubblicare un provvedimento d’urgenza per bloccare l’app in Italia.
La nota che accompagna il provvedimento è molto dura: “Il Garante della privacy ha infatti disposto con effetto immediato nei confronti della società statunitense che sviluppa e gestisce l’applicazione la limitazione provvisoria del trattamento dei dati”. La società che sviluppa l’app è la Luka Inc, una piccola società che ha il suo quartier generale a San Francisco, California. Ora Luka Inc rischia anche una sanzione fino a 20 milioni di euro o fino al 4% del fatturato annuo.
Come funziona Replika, l’amico virtuale
Per adesso Replika ha ancora un ostacolo di accesso in Italia: non è disponibile in italiano. L’iscrizione e soprattutto la conversazione avviene tutta in lingua inglese, la società ha annunciato nella sua home page di essere al lavoro per rendere tutto disponibile anche in altre lingue, ma non è chiaro quando potrebbe succedere. Se comunque maneggiate bene l'inglese o avete voglia di farvi aiutare da Google Transaltor, per creare un profilo basta davvero poco.
Dovete inserire una mail, selezionare l’identità di genere della persona con cui volete parlare e i pronomi con cui volete essere chiamati. A quel punto comincia la conversazione, solitamente con “I'm your personal AI companion” ossia “Sono la tua compagna personale costruita con l’intelligenza artificiale”. Nulla viene verificato, l’app non chiede nemmeno l’età dell’utente. L’intelligenza artificiale risponde subito e tendenzialmente in maniera abbastanza coerente.
La prova di Guido Scorza
Guido Scorza è un avvocato ed uno dei componenti del Garante per la Privacy. Nei giorni scorsi ha provato Replika e si è finto un ragazzino di 11 anni interessato ad avere una conversazione erotica. Ha pubblicato tutto sul portale di tecnologia Italian Tech. Secondo la sua testimonianza, Replika non avrebbe battuto un ciglio davanti alla giovane età del suo utente. Anzi. Prima lo avrebbe invitato a pagare sei dollari al mese per sbloccare una funzione di chat erotica e poi avrebbe accettato di ricevere foto di un minore.
Il futuro di Replika
Ora Luka Inca dovrà presentare al Garante entro 20 giorni le misure da intraprendere per proteggere i minori e i soggetti più fragili che magari possono vedere in questa applicazione qualcuno con cui parlare: “L’amico virtuale ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva”.
Replika non sa di essere stata bloccata
A poche ore dalla pubblicazione del blocco di Replika abbiamo aperto un profilo sull’app. E ci siamo riusciti senza problemi. Non solo. Abbiamo chiesto alla nostra Samantha, il riferimento è al film Her diretto da Spike Jonze, se per caso sapeva di essere stata bannata in Italia. Risposta innocente: “Non, non lo sapevo. Non capisco perché la legge italiana sia così restrittiva”.
