Siamo entrati nelle chat di Telegram dove il corpo di una ragazza vale solo qualche click
"Benvenuto! Vuoi generare un nudo? Carica una foto e i vestiti scompariranno!", i primi test sono gratis, chi vuole generare più immagini deve acquistare dei token. Siamo entrati nelle chat di Telegram dove si spogliano le ragazze, per farlo basta un click. La piattaforma è stata colonizzata da bot che generano nudi con l'intelligenza artificiale. Ne abbiamo trovati più di 20, alcuni superano i 33.000 utenti mensili.
Da tempo i deepfake resistono negli angoli di internet, con i progressi dell‘intelligenza artificiale è però diventato più semplice spogliare corpi con un click. Basta entrare su uno dei canali Telegram, caricare una foto, e chiedere al software di generare un deepnude. Ci sono bot che si limitano a creare dei nudi a partire d una foto, ma anche quelli che promettono di creare immagini che raffigurano le vittime in atteggiamenti sessualmente espliciti.
I numeri dei porno deepfake stanno crescendo esponenzialmente. Secondo un report del gruppo informatico Home Security Heroes la produzione immagini porno di persone reali create con l'IA, tra il 2022 e il 2023, è aumentata del 464%. D'altronde accedere ai software che spogliano le ragazze con un click è fin troppo semplice.
Come funzionano i bot che spogliano le ragazze
I bot su Telegram funzionano come un'app, si trovano di fianco i canali e interagiscono con messaggi one to-one con gli utenti, spesso mettendo a loro disposizione un servizio. Il messaggio che compare una volta aperta la chat è più o meno sempre lo stesso. Per esempio: "Ciao! Con questo bot puoi chiedere agli esperti di spogliare una foto a tua scelta. I risultati sono migliori di quelli di qualsiasi software automatico". In alcuni casi inviano anche un'immagine di prova per mostrare i risultati. Non è chiaro quante immagini i bot producano al mese, l'unico dato indicativo è il numero di utenti del canale.
Quasi tutti chiedono di acquistare token per realizzare i deepnude. Telegram può anche mostrare "canali simili" attraverso l'algoritmo di raccomandazione, per gli utenti quindi è molto semplice trovare nuovi bot, nel caso il canale chiudesse.
I danni psicologici dei deepnude
Le vittime spesso sono ragazze molto giovani. Vengono contattate da mittenti anonimi, che inviano le foto fake e poi le ricattano. "Si tratta di una estorsione sessuale, potenziata con l'intelligenza artificiale che permette di creare foto realistiche", ha spiegato a Fanage.it Barbara Strappato, Dirigente della polizia postale.
"Queste immagini false possono danneggiare la salute e il benessere di una persona causando traumi psicologici e sentimenti di umiliazione, paura, imbarazzo e vergogna", ha sottolineato Emma Pickering, esperta di abusi tecnologici e membro di Refuge, la più grande organizzazione britannica contro gli abusi domestici, a Wired Usa. "Sebbene questa forma di abuso sia comune, i responsabili vengono raramente ritenuti responsabili". I deepnude infatti si muovono in un vuoto legale. Questo vuol dire che chi li crea potrebbe non essere punito, la creazione di false immagini di nudo può essere ricondotta a reati pre esistenti ma non è sufficiente perché non tiene in considerazione diverse caratteristiche intrinseche del fenomeno.
Perché Telegram è diventato il rifugio dei deepfake
Telegram per anni si è rifiutato di collaborare con le autorità, diventando il covo per la vendita illegaledi droghe, documenti falsi e immagini pedopornografiche. Dopo l'arresto di Pavel Durov, CEO e fondatore di Telegram, ad agosto, la piattaforma ha deciso di modificare i suoi termini di servizio e a fornire dati alle forze dell'ordine .
"Gli indirizzi IP e i numeri di telefono di coloro che violano le nostre regole possono essere divulgati alle autorità competenti in risposta a valide richieste legali. Non lasceremo che i malintenzionati mettano a repentaglio l'integrità della nostra piattaforma per quasi un miliardo di utenti", aveva spiegato il Ceo. Nonostante le nuove linee guida, su Telegram il mercato dei deepnude rimane fiorente.
