Abbiamo provato l’app per creare baci finiti, si può usare con chiunque: anche con chi non vi vuole

"Prendi la tua crush e fai un video", sotto c'è una clip di un uomo e una donna che si baciano. Sto scorrendo TikTok e compare questo annuncio. Non è il primo, da qualche giorno nel mio feed continuano a comparire video sponsorizzati di app che ti permettono con un paio di click di baciare chi vuoi. Tra queste c'è Fotorama. La tecnologia per creare "deepfake", ovvero video falsi che sembrano veri, è ora disponibile sugli smartphone. È semplice, divertente e soprattutto inquietante.

Fino a qualche anno fa per creare un video deepfake, così chiamati in onore dell'intelligenza artificiale "deep learning" utilizzata per generare volti, serviva un computer potente, ora tutto è concentrato all'interno di un app che probabilmente elabora i dati in cloud, e con un paio di click si si manipola il volto e il corpo di una persona, chiunque può diventare un burattino nelle nostre mani. 

C'è già un ampio ventaglio di scelta tra le app deepfake, c'è chi permette di creare un video musicale in lip-sync, chi cambia lo stile o il taglio di capelli, e chi anima le foto dei defunti. Ma il vero mercato dei deepfake sono le immagini sessualmente esplicite. Si sta già diffondendo un'epidemia di deepnuede nelle scuole. Ragazze, spesso minorenni, si trovano di fronte a immagini false che le ritraggono senza vestiti. Le app dei baci finti sono sola la soglia della tana del deepfake non consensuale. Ci siamo entrati per vedere come funzionano davvero. 

Come funziona l'app Fotorama

L'app è disponibile negli store digitali, basta scaricarla, non chiede età, nome o cognome. Non appena entrati ci troviamo di fronte a una serie di modelli preconfezionati, il primo che compare è un video della sezione "Magic Holiday" dove un ragazzo e una ragazza si baciano sotto il vischio. Clicchiamo sopra. Ci chiede di caricare due immagini, che andranno a comporre i volti che si baceranno. Scatto una foto al mio collega e poi scegliamo un'immagine di Jenna Ortega. A quel punto basta cliccare su Genera e aspettare qualche secondo. Il video poi comparirà nella cartella personale dell'app.

Il risultato non è perfetto. Il software è approssimativo, il naso è schiacciato e alcune espressioni sono plastiche. Non solo, sbaglia anche le proporzioni, a volte un viso è più grande di un'altro o a un'altezza diversa. Ma è comunque impressionate come un'app che parte da una foto, spesso un selfie mal fatto, riesca a generare un video quasi realistico. 

Per realizzare i video abbiamo dovuto sottoscrivere l'abbonamento di una settimana a 9,99 euro. Un cifra irrisoria. Ci sono anche altre app che promettono lo stesso servizio gratis, o con una prova prima dell'abbonamento. La proliferazione delle app si riflette nei numeri. Secondo un report del gruppo informatico Home Security Heroes la produzione di deepfake porno tra il 2022 e il 2023 è aumentata infatti del 464%.

I problemi dei deepfake non consensuali

Le app deepfake promettono servizi diversi. "È tutto molto carino quando lo facciamo con le foto del nonno", ha spiegato Anjana Susarla, professoressa responsabile dell'intelligenza artificiale presso la Michigan State University al Washington Post. "Ma puoi prendere la foto di chiunque dai social media e creare immagini manipolate. Ecco cosa mi preoccupa".

Non siamo pronti per i deepfake alla portata di mano, mancano norme sociali, un quadro legale e soprattutto la consapevolezza dei rischi. "Bisogna assicurarsi che il pubblico sappia davvero che si tratta di media sintetici", ha sottolineato Gil Perry, CEO di D-ID , la società tecnologica che alimenta i deepfake di MyHeritage. "Dobbiamo stabilire le linee guida, i quadri e le politiche affinché il mondo sappia cosa è buono e cosa è cattivo".

Tra i principali problemi c'è la possibilità di utilizzare i deepfake come arma contro le donne, per creare pornografia non consensuale falsa e umiliante. Come dimostrano i dati di DeepTrace, società con sede ad Amsterdam che monitora i media sintetici online, il 96% del materiale deepfake online è di natura pornografica, le vittime sono quasi sempre donne. 

Come proteggerci dai video falsi che sembrano veri

Gli store che distribuiscono queste app dovrebbero stabilire degli standard. Queste app si trovano tranquillamente sugli App Store e i Play Store, non sembrano esserci filtri specifici da Apple e Google. Sarebbe necessario anche etichettare con filigrane i contenuti deepfake in modo da identificarli immediatamente. Non solo, i social network dovrebbero rinforzare le barriere di protezione adottando l'etichettatura automatica dei deepfake. 

Se si è vittima di un deepfake è invece necessario documentare l'abuso e acquisire le prove nel caso fosse necessaria un'azione legale. Scattare quindi screenshot delle immagini modificate, delle piattaforme dove sono state caricate, e delle richieste di rimozione presentate. Infine è necessario sporgere subito denuncia alla polizia postale.