Quest’uomo ha creato un porno deepfake usando il volto della giornalista tv: “È stato terribile”
Il volto era il suo, il corpo no. Welmoed Sijtsma ha premuto play sul video e il suo doppleganger ha cominciato a spogliarsi, era la protagonista inconsapevole di un video porno. La presentatrice olandese è solo una delle tante vittime della tecnologia deepfake, che permette di creare sosia digitali estremamente verosimili. Ora, l'uomo che ha creato il suo video sarà processato. Come spiega il quotidiano Nos, era stato arrestato e interrogato l'anno scorso, le indagini sono in corso e non si sa ancora quando sarà fissata la prima udienza. Fare entrare la tecnologia deepfake nei tribunali è un passo avanti, al momento manca un quadro normativo in grado di arginare un fenomeno in crescita. "Di tutti i film falsi online, il 96% è porno. E il mio video è uno di questi", aveva spiegato la presentatrice che ha anche deciso di girare na docu-serie per raccontare il fenomeno.
Come aveva spiegato a Fanpage.it Yu Chunju, artista cinese della provincia del Guandong che attraverso le sue opere analizza la disparità di genere innescata dalla tecnologia deepfake: "Il deepfake è diventata una tecnologia per distruggere le donne, soprattutto nel porno. Ci sono moltissimi siti che sostituiscono i volti delle persone sui corpi di pornostar, è umiliante e mortificante" Non solo. "È ancora tutto molto vago, non ci sono leggi per proteggere le persone, e l’impatto negativo sulla società è enorme. Perché se non sei famoso vieni psicologicamente distrutto, succede anche se sei una celebrità, ma con un aggravante. I personaggi pubblici hanno una forte influenza rappresentativa sul pubblico, quindi incidono sul modo in cui viene percepita la femminilità e la donna stessa. E anche qui si riduce a desiderio sessuale di un uomo."
Le app che distruggono le donne
Come dicevamo il caso Sijtsma non è l'unico. Anzi. FaceMega, un'app che sostituisce facce e corpi utilizzando l'intelligenza artificiale, aveva lanciato a marzo una campagna pubblicitaria provocatoria. Aveva caricato 127 video di Emma Watson e 74 di Scarlett Johansson in atteggiamenti provocatori sui social. L’app mostrava anche in un breve tutorial come inserire il volto di una celebrità sul corpo di una pornoattrice. Con una serie di click intuitivi l'app serviva la ricetta perfetta per usare una tecnologia performante nel peggiore dei modi possibili. A conferma della malafede di FaceMega ci sono anche le categorie preimpostate: "Fashion", "Bride", "For Men", "For Women", "TikTok", e “Hot”, la scelta con il maggior numero di opzioni.
Era anche apparso su Reddit, un porno deepfake di Michelle Obama, che mostrava l'ex first lady in una camera a luci rosse. Anche in questo caso il suo volto è stato montato sul corpo di una pornoattrice. Scorrendo sui gruppi deepfake di Reddit, che sono stati chiusi, si leggevano titoli come "Ricostruzione del volto 3D per ulteriori angolazioni", o "(Non) Olivia Wilde che gioca con se stessa".
I numeri del porno deepfake
Nel 2019, DeepTrace, una società con sede ad Amsterdam che monitora i media sintetici online, ha rilevato che il 96% del materiale deepfake online è di natura pornografica. L’analista Genevieve Oh ha invece scoperto che il numero di video porno deepfake è quasi raddoppiato ogni anno dal 2018. Febbraio 2023 è stato il mese che ha registrato il maggior numero di porno deepfake prodotti e caricati in un mese.
Perché è difficile creare un quadro normativo
Gli Stati Uniti hanno provato a creare una task force federale per esaminare la tecnologia deepfake, ma poi è stata bloccati. La rappresentante Yvette D. Clarke, politica statunitense, aveva proposto già nel 2019 un disegno di legge, e poi di nuovo nel 2021, ha detto al New York Times che ha pianificato di reintrodurre il disegno di legge quest'anno. I gruppi per i diritti digitali come la Electronic Frontier Foundation stanno spingendo i legislatori a utilizzare un quadro giuridico esistente per affrontare i casi di frode, violazione del copyright, oscenità e diffamazione.
Ma leggi o divieti si troveranno di fronte a un ostacolo: è molto difficile riconoscere un video deepfake ben fatto. Lo ha dimostrato la RAND Corporation con un esperimento su 3000 video. Il gruppo ha sbagliato più di un terzo delle volte. "C'è una corsa agli armamenti tecnologici tra i creatori di deepfake e i rilevatori di deepfake", ha affermato Jared Mondschein, scienziato fisico presso RAND al New York Times. "Fino a quando non inizieremo a trovare modi per rilevare meglio i deepfake, sarà davvero difficile portare avanti un quadro normativo."
