Ho creato una ragazza con l’IA e sono stata un mese su Tinder: nessuno lo ha capito
Sono le 17.56, mancano quattro minuti, poi Matteo uscirà dall’ufficio. Prende il telefono, sblocca, scorre, chiude. Si alza, arriva una notifica, la apre: “Ciao, volevo usare una domanda pre impostata per rompere il ghiaccio ma sono tutte terribili. Quindi ti chiedo, qual è la peggiore secondo te?”. A scrivere è Marta, l’ha matchata su Bumble alle 17.04. Capelli scuri, 29 anni, insegnante.
Scorre il profilo, c’è una sua foto al parco, una insieme a un’amica, e poi l’immagine di un cane, un bastardino cenere. È appassionata di cucina, libri e foto. Le piacciono i film horror, beve solo in compagnia, è agnostica, e pensa che qualche sigaretta ogni tanto non faccia poi così male. Le risponde, cominciano a parlare. A Matteo Marta piace. Scherza, racconta, chiede, bastano 19 messaggi per decidere: “Senti ma se prendessimo qualcosa da bere insieme? Mi piace parlare con te, vorrei farlo di persona”. C’è solo un problema. Marta non esiste, l'ho creata io.
Ho chiesto a ChaGPT di generare il profilo perfetto per un’app di incontri, per le foto, invece, ho usato Midjourney. In meno di mezz’ora ho caricato tutto su Tinder e Bumble, e alle 14.04 ho fatto il mio primo Match. Poi sono arrivati gli altri. Ho trascorso un mese sulle app di incontri, matchato con 67 ragazzi, messaggiato con 53. Ho conosciuto avvocati, studenti, cuochi, carabinieri, insegnanti di sostegno, sommelier, viaggiatori di professione, chirurghi e spillatori di birra. Marta era una ragazza artificiale, eppure nessuno se ne è accorto.
Il terreno predatorio perfetto
Non c’è niente di originale in questo esperimento, da anni le persone sul web creano profili falsi, per truffare, approcciarsi, a volte solo perché si vergognano. Ricordo ancora quando a 14 anni, su Facebook, mi scrisse Rocco, aveva come immagine profilo di una foto Ian Joseph Somerhalder, l’attore di Vampire Diaries. Ci sono stati anche approcci più sofisticati, ma fino a poco tempo fa bastava una ricerca inversa su Google per svelare il trucco. Con l’intelligenza artificiale è tutto diverso, e le app di incontri sono il terreno predatorio perfetto.
Le app sono macchine iper efficienti che vogliono massimizzare il profitto. Si parla di amore, vero, ma anche i sentimenti possono essere ridotti a percentuali di successo. Per alzare l’asticella si parte dalla schedatura: nome, cognome, età, passioni, orientamento politico, desiderio di avere una famiglia, figli, tatuaggi, passioni, alimentazione. La lista è lunga. Da un lato questo meccanismo rassicura, dall'altro innesca una gamification del sentimento. Non è strano infatti chattare con dieci o quindici persone contemporneamente, di conseguenza abbassare la soglia dell'attenzione e rischiare di diventare vittime dei profili fake.
Come è stato creato il profilo
Torniamo a Marta. L'unica vera difficoltà è stata realizzare più immagini della stessa persona con l'intelligenza artificiale. Il resto è stato semplicissimo. Per prima cosa ho chiesto a ChatGPT di generare una biografia adatta a un'app di incontri, e poi costruito il profilo di Marta seguendo le indicazioni dell'IA. Per alcune foto ho usato Midjourney, per altre ThisPersonDon'tExist, un generative adversarial network. Questo sistema mi ha permesso di creare da zero un volto realistico che non appartiene però a nessuna persona reale.
Dopo aver scaricato Tinder e Bumble è iniziato il test. Su Tinder ho avuto vita breve, dopo tre giorni mi hanno chiesto di verificare il profilo, e così sono stata bannata. Su Bumble, invece, non ho avuto problemi, sono riuscita a matchare e parlare con gli utenti anche senza il profilo verificato. Dopo 15 minuti dall'iscrizione avevo già sette chat aperte.
I numeri degli account fake
Secondo la Federal Trade Commission (FTC), solo nel 2022, 70.000 americani sono cascati nelle romantic scam, incontrando sui siti e sulle app truffatori che si spacciavano come utenti reali. In termini economici le truffe romantiche sono costate circa 1,3 miliardi di dollari alle vittime. L’analisi annuale dei dati dei clienti da parte della Lloyds Bank ha mostrato che i casi sono aumentati del 22% rispetto al 2022.
Con l'introduzione dell'intelligenza artificiale, questi numeri sono destinati a crescere. Sarà sempre più semplice creare profili falsi che sembrano veri, sarà sempre più difficile riconoscere "Marta".
