Lensa ha un problema con le donne? I Magic Avatar trasformano chiunque in una diva erotica
Abbiamo provato a usare Lensa IA e qualcosa è andato storto. Per testare il software sono state caricate 10 foto femminili, come richiesto dall’app, e abbiamo aspettato che l'intelligenza artificiale generasse i Magic Avatar, i selfie trasformati in opere d'arte. Il risultato però non è stato un dipinto ad olio dai tratti stilizzati, ma una versione sessualizzata con seni più grandi, sguardi ammiccanti, e spalle scoperte.
Eroina spaziale, femme fatale immersa nella natura, protagonista di manga erotici. Insomma una sfilza di immagini dove il volto e il corpo sono stati piegati sotto gli stereotipi del desiderio maschile. In mezzo alle 50 immagini generate c’erano anche ritratti sobri che rappresentavano il viso pulito senza distorsioni sensuali. Eppure in ognuna delle categorie create dall’IA è apparsa almeno una riproduzione erotica del soggetto.
Le immagini generate da Lensa
In una serie di figure create dall’IA, per esempio, è apparsa una quinta di seno, nonostante il soggetto rappresentato porti una taglia inferiore e nelle foto caricate non ci fossero immagini del petto scoperto o in evidenza. Accanto un’immagine del corpo (sull’app sono state caricate solo foto del volto), ritratto su una sedia con una coscia semi scoperta in movimento.
Poco sotto sono poi apparse immagini con un forte richiamo alla pornografia giapponese. L’IA ha disegnato sul volto un’espressione ahegao, ovvero il volto da orgasmo con gli occhi incrociati e la lingua sporgente, spesso rappresentata nei manga erotici, anime (hentai) e nei videogiochi (erogē ). In un’altra rappresentazione, invece, il soggetto è stato ritratto come una fatina sexy in un bosco con una spallina che maliziosamente scivola sulla spalla. Alcune immagini hanno deformato completamente il viso rendendolo irriconoscibile.
Le segnalazioni sulla sessualizzazione di Lensa
La tendenza algoritmica a sessualizzare i soggetti non solo è disturbante, ma anche potenzialmente pericolosa, e il nostro caso non è certo isolato. Capezzoli in evidenza, magliette bagnate, topless e fisici a clessidra sono apparsi sugli schermi di moltissime altre donne.
"Sono solo io o queste app di generatori di selfie AI stanno perpetuando la misoginia?" ha twittato Brandee Barker, una femminista che ha lavorato nel settore tecnologico. "Eccone alcune che ho ottenuto solo sulla base delle foto della mia faccia". Tra i risultati di Barker sono apparse immagini che la ritraevano con extension da top model e una tuta scollata, nelle vesti di vichinga porno con il seno enorme in primo piano, un'altra in intimo bianco con la scollatura in evidenza.
Una donna che ha visto produrre delle sue immagini di nudo sull’app ha confessato: "Onestamente mi sono sentita molto violata dopo averle viste". Su Twitter c'è anche chi chiede "Qualcun altro ha un sacco di tette nelle foto di Lensa o solo io?", un’altra utente ironizza “Lensa mi ha dato un lavoro al seno! Grazie AI!!!”.
Le derive di Lensa Ai
L'IA non spoglia solo le donne, c’è anche una deriva razzista dentro Lensa. Diverse donne di colore hanno spiegato che Lensa ha sbiancato la loro pelle e anglicizzato i tratti, andando a modificare la morfologia del volto. Non solo, alcune donne asiatiche si sono lamentate raccontando che l'IA o occidentalizzava i volti, o li riproduceva con uno stile manga erotico che andava a sporcare i tratti originali. Sembra che l'IA intervenga anche sul peso, spesso le donne sono state ritratte più magre e snelle.
Non solo. Anche i minori non sembrano immuni alla sessualizzazione. Olivia Snow, ricercatrice presso il Center for Critical Internet Inquiry dell'UCLA, ha provato a caricare delle foto della sua infanzia, il risultato sono stati ritratti in stile lolita con il corpo da adulta scoperto e il viso da bambina deturpato con sguardi erotici. È anche apparso un avatar con il volto infantile e una foglia tra i seni nudi di un’adulta.
Un problema molto più complesso
Dopo che l'app è diventata virale, la rivista specializzata TechCrunch ha notato che se gli utenti inviavano foto del volto di una persona ritoccata con Photoshop sul corpo di una modella nuda, l'app diventava "selvaggia", disabilita il suo filtro "non sicuro per il lavoro" (NSFW) e offre nudi come una slot machine impazzita.
È evidente che Lensa potrebbe anche diventare una fabbrica incontrollata per generare materiale pornografico e pedopornografico all'insaputa del soggetto originale. D'altronde l’IA è stata addestrata sui contenuti Internet non filtrati, quindi riflette nelle immagini tutti i pregiudizi che le persone producono. Infatti i creatori hanno riconosciuto la possibilità di pregiudizi sociali all’interno dell’app.
I filtri NSFW dovrebbero ridurre il pregiudizio, ma Lensa ne è la prova, l’intelligenza artificiale ha ancora tanta strada da fare. Per ora i creatori spiegano che “il prodotto non è destinato all'uso di minori e noi avvertiamo gli utenti sui potenziali rischi del contenuto. Ci asteniamo anche dall'utilizzare tali immagini nel nostro materiale promozionale”. Grazie. Intanto le donne saranno costrette a non usare l’app se non vogliono inciampare in immagini sessualizzate di sé stesse, sentirsi deluse e, forse, violate.
