“I miei compagni di classe mi hanno spogliato con un click, è stato terribile”: la storia di Francesca

Westfield High School, New Jersey, ottobre 2023. Francesca Mani ha 14 anni, è seduta nel suo banco e sta facendo lezione quando sente l'altoparlante ripetere il suo nome. Si alza e va verso l'ufficio del presidente. Quando si siede le mostra una sua fotografia, è nuda, Mani la guarda sorpresa. Quell'immagine non è mai stata scattata, eppure sembra reale. La foto è stata creata con l'intelligenza artificiale. Con i nuovi software, infatti, basta un click per creare immagini di nudo. Non è l'unica Mani, altre ragazze della sua scuola scoprono che nelle chat girano strane fotografie realizzate con l'IA.

"Quando sono uscita dall'ufficio del preside ho visto un gruppo di ragazzi e ridevano e gruppo di ragazze che piangevano. È stato allora che ho capito che avrei dovuto smettere di piangere e che avrei dovuto arrabbiarmi, perché tutto questo era inaccettabile", ha raccontato Mani a CBS News.

Un'epidemia di deepnude

Da tempo i deepfake resistono negli angoli di internet, con i progressi dell‘intelligenza artificiale è però diventato però ancora semplice spogliare corpi con un click. E infatti i numeri dei porno deepfake stanno crescendo esponenzialmente. Secondo un report del gruppo informatico Home Security Heroes la produzione immagini porno di persone reali create con l'IA, tra il 2022 e il 2023, è aumentata del 464%.

Le vittime spesso sono ragazze molto giovani. Vengono contattate da mittenti anonimi, che inviano le foto fake e poi le ricattano. "Si tratta di una estorsione sessuale, potenziata con l'intelligenza artificiale che permette di creare foto realistiche", aveva spiegato a Fanage.it Barbara Strappato, Dirigente della polizia postale. "Queste immagini false possono danneggiare la salute e il benessere di una persona causando traumi psicologici e sentimenti di umiliazione, paura, imbarazzo e vergogna", ha sottolineato Emma Pickering, esperta di abusi tecnologici e membro di Refuge, la più grande organizzazione britannica contro gli abusi domestici, a Wired Usa.

Cosa è successo a Mani e delle ragazze di Westfield

Il preside della Westfield ha dopo aver convocato le ragazze ha inviato una mail ai genitori: "Alcuni dei nostri studenti hanno utilizzato l'intelligenza artificiale per creare immagini pornografiche da foto originali". Il preside ha poi aggiunto che la scuola stava indagando e "al momento crediamo che tutte le immagini create siano state eliminate e non siano in circolazione".

Secondo la madre di Mani, Dorota, le immagini condivise online stanno continuando a circolare. Timori fondati considerando che è quasi impossibile garantire una rimozione completa una volta che le foto sono state pubblicate."Chi le ha stampate? Chi ha fatto uno screenshot? Chi ha scaricato? Non puoi proprio cancellarlo", ha spiegato Dorota.

Non solo secondo Mani "le ragazze prese di mira hanno pagato un prezzo più alto rispetto ai ragazzi che hanno creato le immagini. Dobbiamo convivere con la consapevolezza che forse un'immagine sta girando su Internet", ha spiegato. Non solo Dorota ha aggiunto "abbiamo sporto denuncia alla polizia, ma che non è stata formulata alcuna accusa".

Perché è necessaria una nuova legge

Mani e sua madre dopo il caso deepnude hanno incoraggiato le scuole ad attivare nuove politiche per contrastare i software deepnude. Hanno anche collaborato con i membri del Congresso e una proposta di legge chiamata il Take It Down Act, sostenuta dai senatori Ted Cruz e Amy Klobuchar, è passata al Senato a inizio dicembre. La legge chiede sanzioni penali per la condivisione di nudi creati con l'intelligenza artificiale e alle aziende di social media di rimuovere le foto entro 48 ore dalla richiesta.

È fondamentale creare un impianto normativo. Al momento infatti i deepnude si muovono in un vuoto legale.Questo vuol dire che chi li genera potrebbe non essere punito, la creazione di false immagini di nudo può essere ricondotta a reati pre esistenti ma non è sufficiente perché non tiene in considerazione diverse caratteristiche intrinseche del fenomeno.