L’app che spoglia le ragazze arriva nelle scuole, la Garante dell’Infanzia: “BikiniOff non è una bravata”
Basta una foto qualsiasi e, una volta caricata, il bot fa sparire i vestiti. Utilizzando l’intelligenza artificiale sputa fuori immagini di nudo che non sono mai state scattate. L’app Bikini Off è gratis, accessibile a tutti, e pericolosissima. E il bot è solo l'ultimo strumento della fabbrica marcia del web che produce materiale non consensuale.
Si è già diffusa nelle scuole, il caso di due ragazzini che hanno deciso di spogliare virtualmente le loro compagne di classe “per scherzo” ha acceso i riflettori sull’ennesima stortura del deepfake. Negli utlimi mesi infatti la tecnologia in grado di creare immagini false ma realistiche è diventato lo strumento perfetto per creare sul web materiale pornografico. Il fenomeno ha anche attirato l’attenzione della Garante dell’Infanzia della Regione Lazio, che ha deciso di organizzare degli incontri con i genitori per sensibilizzare sul tema.
L'app che spoglia le persone
Bikinioff è nata in Francia come evoluzione di BeReal e poi si è diffusa in tutto il mondo nel 2022, registrando numeri record di download tra i ventenni. È in grado di creare foto false ma realistiche e per accedere all’app non serve nemmeno l’autenticazione, questo vuol dire che chiunque, anche i minorenni, possono usarla. E infatti Bikini Off è diventata popolare proprio tra i banchi di scuola, nell’ultimo periodo sono state segnalate 27 infrazioni e due adolescenti di 14 anni sono stati indagati per la produzione di materiale pedopornografico. È successo in una scuola media in provincia di Roma, i due ragazzi sono stati accusati di aver modificato cinque foto delle compagne di classe e poi averle condivise. Ai carabinieri hanno detto “è solo uno scherzo”.
L’app è semplice e gratuita. La prima foto non si paga, per produrre altri deepfake si devono acquistare i crediti registrando la carta di credito, oppure usando Google Pay, sono anche disponibili i pagamenti attraverso le criptovalute. Noi ci abbiamo provato e abbiamo scoperto che il bot propone una serie di abbonamenti che permette di accedere a diversi abbonamenti, che vanno dai 5 euro, per ottenere 10 foto, a 270, per produrne 600.
L'intervento del Garante dell'infanzia
In risposta al fenomeno Monica Sansoni, la Garante dell’Infanzia della Regione Lazio, ha deciso di organizzare incontri formativi nelle scuole, nei gruppi sportivi e parrocchie. Il progetto “Genitori al centro, missione adolescenza” vuole sensibilizzare sull’ultilizzo improprio delle nuove tecnologie, perché, come spiega Sansoni, Bikini Off “non è una semplice bravata”. Ha anche aggiunto che riceve almeno due segnalazioni a settimane per immagini pedopornografiche che vengono fatte circolare dai minori sul web.
L’obiettivo del progetto è sensibilizzare gli adulti sui rischi del mondo virtuale, soprattutto su canali come Telegram dove è facile trovare nicchie scure che generano materiale dannoso in modo incontrollato. I ragazzi infatti nel web trovano sempre nuovi covi da sperimentare, e come spiega Sansoni: “Mentre gli adulti sono ancora fermi a TikTok, i ragazzi sono già oltre”.
Bikini Off non è un caso isolato
Il fenomeno deepfake ha radici profonde, nell’ultimo periodo, con gli sviluppi dell’intelligenza artificiale, è diventato ancora più semplice da utilizzare, e le immagini e i video che crea sono ultra realistici. Bikini off non è l’unico caso. A marzo FaceMega, un'app che sostituisce facce e corpi utilizzando l'intelligenza artificiale, ha lanciato una campagna pubblicitaria provocatoria, non capendo forse che la sua sponsorizzazione è il miglior biglietto da visita per essere sradicata da ogni App Store.
Ha caricato infatti, a scopo dimostartivo, 127 video di Emma Watson e 74 di Scarlett Johansson in atteggiamenti provocatori sui social. Basta scaricare la foto del volto dell’attrice e applicarla sul corpo di una pornostar. Et voilà, ecco servita la ricetta perfetta per mostrare una tecnologia performante usata nel peggiore dei modi possibili.
Porno deepfake: un fenomeno in crescita
“Il deepfake è diventata una tecnologia per distruggere le donne, soprattutto nel porno. Ci sono moltissimi siti che sostituiscono i volti delle persone sui corpi di pornostar, è umiliante e mortificante”, aveva spiegato Yu Chunju, artista cinese che sperimenta le tecnologie deepfake in ambito artistico, a Fanpage.it
Il fenomeno negli anni è cresciuto. L’analista Genevieve Oh ha infatti scoperto che il numero di video porno Deepfake è quasi raddoppiato ogni anno dal 2018. Febbraio 2023 è stato il mese che ha registrato il maggior numero di porno deepfake prodotti e caricati in un mese.
