Chi è Loab, il fantasma che infesta l’intelligenza artificiale nata per creare opere d’arte
Sembra una storia dell’orrore. Inizia con Marlon Brando e finisce con qualche domanda in più sull’intelligenza artificiale. La protagonista è Loab. Ha i capelli scuri, il volto consumato, gli occhi che bucano la faccia e c’è chi dice che sia il nuovo mostro generato da un’IA, un fantasma. Effettivamente Loab torna sempre, e sporca con la violenza tutto quello che tocca.
Tutto comincia da un esperimento riuscito male e raccontato su Twitter dall'utente Supercomposite. “Evoco demoni attraverso l’intelligenza artificiale per divertimento e su commissione”, scrive nella descrizione del suo profilo. Racconta di essersi imbattuta in Loab ad aprile, voleva sperimentare i negativ prompt e il latent space di una non precisata IA. Il negative prompt è una tecnica per generare un’immagine opposta alla richiesta dell’utente. Come se si chiedesse al software “crea quello che tu ritieni sia più diverso questa parola.” Lo spazio latente invece è più o meno la mente o la memoria dell’intelligenza artificiale.
Supercomposite decide di sperimentare questi spazi con Marlon Brando. L’artista vuole vedere, per gioco, qual è la “cosa” più lontana dal celebre attore. Subito è stato uno strano logo, una specie di skyline stilizzato, nero, con sopra la scritta, verde, “DIGITA PNITICS”. Supercomposite vuole la controprova. Digita nel prompt dei comandi DIGITA PNITICS skyline logo::-1”. Sarebbe dovuto a questo punto riemergere il volto di Marlon Brando, e invece l’IA partorisce Loab.
L'immagine di Loab ogni opera
Ma questo è solo il primo capitolo della storia. Poi Loab torna, e infetta ogni immagine con la quale viene incrociata. Supercomposite prova ad abbinare il volto di Loab ad altre immagini, e l'incontro genera sempre figure violentissime e macabre. Per esempio scene di sventramenti e mutilazioni le cui vittime sono spesso, per qualche ragione, dei bambini, come rivela l’artista a Rivista Studio.
Supercomposite infatti ha scelto di non pubblicare tutti i risultati ottenuti dagli incroci per non urtare la sensibilità degli utenti. Le immagini che invece appaiono sulla sua bacheca sono comunque contrassegnate come contenuti per adulti. Secondo l’artista è come se avesse inquinato ogni opera, dopo Loab c’è sempre l'elemento violento, gore, nei suoi quadri, e nonostante le variazioni che Supercomposite chiede di fare all’IA, il volto di Loab torna sempre.
“A causa di chissà quale incidente statistico, qualcosa associa questa donna a un immaginario estremamente sanguinoso e macabro nella distribuzione della conoscenza del mondo della IA,” ha scritto Supercomposite. È, per ora, impossibile comprendere il fenomeno. I sistemi di generazione di immagini attraverso IA, usano modelli troppo complessi, hanno assorbito miliardi di immagini che sono la base a cui attingono per creare le opere. I risultati sono imprevedibili e non controllabili.
Un problema di sicurezza
Alcuni software hanno implementato controlli manuali per bloccare e filtrare determinati termini, per esempio DALL-E. Altri no. Un problema, dal momento in cui l’IA è in grado di combinare immagini e creare anche contenuti violenti e pericolosi. Basti pensare alle immagini storpiate di celebrità, alla pornografia offensia, oppure a materiale pedopornografico. Ma a volte nemmeno i filtri bastano, e Loab ne è l'esempio.
