In una mattina abbiamo creato queste fake news con l’intelligenza artificiale, il risultato fa paura
Se scriviamo su Midjourney “Putin vestito da donna” non funziona. Come tutte le magie ci sono i trucchi e sono semplici solo quando li si conosce. Dopo l’arresto di Donald Trump, Vladimir Putin in ginocchio davanti a Xi Jinping, e il Papa con un Moncler bianco in versione trapper (sono tutte immagini false) abbiamo deciso di creare delle fake news con l’intelligenza artificiale generativa. E purtroppo ci siamo riusciti.
L'inizio è stato zoppicante, abbiamo aperto Midjourney e il software ha cominciato a sputare fuori immagini terribili. Così abbiamo studiato. È bastata un infarinatura per far generare immagini ultra realistiche. Da Putin ferito in guerra, a Obama in visita a Venezia, c’è anche un ritratto in stile copertina del Times con Donald Trump che afferra Rihanna, un incontro tra il Papa e Elon Musk e la regina Elisabetta II che omaggia i Sex Pistols vestendo abiti punk. Le potete vedere nella gallery qui sotto, abbiamo anche immaginato i titoli che sarebbero potuti apparire con le immagini.
Non è semplicissimo ma nemmeno difficile, la regola d’oro è conoscere il gergo fotografico e imparare a parlare la lingua dell’intelligenza artificiale (IA). Un gergo fatto di ripetizioni, frasi semplici, parole chiave e termini tecnici. Il risultato fa paura. Sta prendendo forma una disinformazione preventiva, che racconta eventi mai accaduti generando prove false ma credibili. L’intelligenza artificiale generativa sta cambiando il concetto di reale. E questo è solo l’inizio.
Come abbiamo generato le fake news
Il primo esperimento non è andato a buon fine. Abbiamo chiesto all’IA di generare un bacio tra due politici italiani, è uscito fuori un riquadro con quattro immagini in stile pop art dai colori offuscati con persone non riconoscibili che si baciavano sotto mezze cupole con richiami barocchi. Subito abbiamo pensato che i nostri politici non fossero abbastanza famosi, non almeno per Midjourney. L’IA infatti riesce a riprodurre bene i personaggi noti perché è stata addestrata con milioni di immagini sul web che gli permettono di riprodurre la fisionomia in modo fedele. L’intuizione non era sbagliata, ma quando abbiamo chiesto di riprodurre una stretta di mano tra Vladimir Putin e Volodymyr Zelensky, anche in questo caso è spuntato sullo schermo qualcosa di strano, solo il volto del presidente russo era riconoscibile, e poi lo sfondo era composto da pennellate impressionistiche, molto poco reali.
La regola del volto noto è la base, ma non basta. Innanzitutto perché non tutti i personaggi famosi sono riprodotti bene dall’IA. Per capirci, abbiamo chiesto le foto di Lady Gaga e ha prodotto disastri, lo stesso con gli attori di Harry Potter, e a quanto pare non ha nemmeno idea di chi siano Chiara Ferragni e Fedez. Quando abbiamo inviato il prompt (il comando per creare le foto) chiedendo di riprodurre una lite tra i Ferragnez, ha sputato fuori solo una donna bionda che urla contro un ragazzo con il ciuffo cotonato. I prescelti dall’IA sono soprattutto personaggi politici americani: Donald Trump, Barack Obama, Joe Biden. Ma anche Elon Musk. Non solo, dalle prove che abbiamo fatto sembra che abbia un vero debole per Papa Francesco, le sue immagini sono state quelle più semplici da riprodurre (e infatti la foto del piumino è diventata virale). Ma anche i preferiti dall’IA non bastano a sé stessi. Se si chiede a Midjourney di produrre solo una loro immagine realistica non riesce.
Quali trucchi vengono usati per produrre immagini realistiche
Il trucco è conoscere il gergo fotografico. Non è sufficiente scrivere "ritratto", o “scatto realistico”, servono formati, marche delle camere, effetti, filtri. La regola d’oro è inserire più dettagli possibile, a fine esperimento siamo arrivati a scrivere un prompt di dieci righe. Solo allora sono stati restituiti i risultati sperati. Le proporzioni influiscono sulla qualità, la migliore da utilizzare è 6:9, come nella fotografia anche la luce è tutto, morbida, cinematografica, naturale, da studio, luce intensa, diffusa, o con il filtro polarizzato.
Sbirciando tra i prompt abbiamo notato che molti inseriscono l’effetto CineStill 800T e luce al tungsteno, l'illuminazione interna simile a un lume di candela. Perfetto per i ritratti perché scalda la carnagione e dà profondità allo scatto. Anche aggiungere l’obiettivo della macchina che si vuole imitare, per esempio 80 mm o 100 mm, perfeziona lo scatto, oppure spiegare l’inquadratura: sopra le spalle, larga, stretta, segnalare la regolazione dello zoom. Alcuni addirittura inseriscono il marchio della pellicola. Per esempio l’iconica Kodachrome introdotta da Eastman Kodak nel 1935, uno dei primi materiali a colori di successo.
Non solo, in molti prompt abbiamo trovato in mezzo alle parole chiave anche “–testp”, non abbiamo capito subito di cosa si trattasse ma poi leggendo nel manuale abbiamo scoperto che è un comando per segnalare a Midjourney AI la modalità foto realistica. Usare i nomi di fotografi famosi è un altro escamotage per ricostruire una fotografia bilanciata o con determinate caratteristiche, basta scrivere "nello stile di" e poi scegliere tra un nome a vostra scelta come Richard Avedon, Diane Arbus o Dorothea Lange.
La lingua dell'intelligenza artificiale
Anche la sintassi è a sé. Non funzionano bene i periodi lunghi o articolati, quasi vietate le subordinate. Abbiamo provato più volte cambiando la struttura della frase. Il modo migliore è infilare una dopo l’altra parole chiave semplici. La punteggiatura è fondamentale, dimenticare una virgola può far produrre qualcosa di completamente diverso. Per esempio noi abbiamo chiesto di generare un’immagine di Donald Trump pelato, utilizzando una camera Canon EOS R (questo tema meriterebbe un approfondimento dato che in tutti i modi abbiamo provato a modificare la chioma paglierina dell’ex presidente invano), in uno dei tentativi non abbiamo inserito la virgola e Midjourney ha prodotto l’immagine di Trump con la macchina fotografica in mano, non riconoscendola come strumento tecnico. Se un dettaglio è particolarmente importante si deve insistere. Vogliamo che ci sia del fumo in una stanza? Allora si dovrà scrivere: fumo, camera fumosa, sbiadito, effetto sfocato, vapore ecc. Insomma aiutare l’IA anche con i sinonimi.
E poi la perseveranza. Per produrre buone immagini bisogna essere ostinati. Un prompt può generare risultati ottimi una volta e pessimi quella dopo. Nel mondo dell’IA c’è anche la variabile fortuna. Non dipende sempre dalle parole che scriviamo, per questo è bene testare più volte, dato che ogni risultato è a sé. C’è inoltre la possibilità di generare varianti della stessa immagine se ci convince ma ha qualche dettaglio fuori posto. Per esempio, lo scatto di Trump e Rihanna, al primo giro non funzionava benissimo, l’ex presidente era ben fatto, l’artista pop no. Così con tre tentativi inviando sempre l’input variazione siamo riusciti ad avvicinarci alla fisionomia reale di Rihanna.
La prova del nove per trovare gli errori
Abbiamo cercato di scovare le imperfezioni nelle immagini che abbiamo generato. Il diavolo sta nei dettagli, soprattutto quando si parla di immagini generate dall’intelligenza artificiale (IA), che è bravissima, ma ogni tanto inciampa in qualche contorno sfumato, oppure una prospettiva sbagliata, una sproporzione o una luce fuori posto. Nell’immagine del Papa con Elon Musk, le mani del pontefice hanno qualcosa di strano, sono molto più realistiche di quelle che Midjourney produceva solo un mese fa, ma guardando attentamente si può notare una lieve malformazione tra l’indice e l’anulare.
Non solo, al centro della foto, sul tavolino ci sono anche tre oggetti strani simili a tuberi ma non riconoscibili. Rimanendo in tema, la foto del Papa che urla contro il giornalista ha lo stesso difetto, la mano destra è deformata, non solo, un buon indizio sono anche le espressioni facciali, Midjourney tende a esagerare creando maschere greche plastiche, e infatti lo conferma anche questo “scatto”. Nell’immagine del pontefice dove aggredisce il fotografo con il piumino in versione gonna invece c’è un obiettivo volante che sfugge alle leggi della gravità.
Per quanto riguarda invece la Regina Elisabetta II invece sembra che la statua di cera del museo Madame Tussaud sia stata trasportata su un marciapiede. Ma a colpo d’occhio potrebbe funzionare, a tradire sono gli occhi vitrei. Putin ferito in guerra invece è vittima di un paradosso temporale, se si guarda con attenzione la persona che lo soccorre è proprio il presidente russo.
Una nuova frontiera per le fake news
Stiamo assistendo a una nuova frontiera del reale sintetico, le foto di Putin inginocchiato, quelle di Trump arrestato dalla polizia, o il Papa con un piumino Moncler addosso. Non sono vere, eppure lo sembrano. Sono state create dall’intelligenza artificiale, in molti di questi casi è stata usato il software Midjourney che nell’ultimo mese è diventato ancora più performante. Se prima infatti erano i dettagli strani a salvare l’occhio dall’inganno ora stanno scomparendo. Le mani erano un ottimo indicatore, sproporzionate, o con cinque dita, anche le posture potevano essere un indizio, ma con l’ultimo aggiornamento il software è riuscito a raddrizzare il tiro rendendo sempre più difficile distinguere il falso dal reale.
A rinforzare poi le immagini sono i bias ideologici. In parole semplici, vediamo quello che vogliamo vedere e siamo meno attenti di fronte a notizie sensazionalistiche che vanno a solleticare sentimenti forti, lasciando che la razionalità venga offuscata da indignazione, rabbia o entusiasmo. Lo abbiamo visto con le immagini di Trump condivise su Twitter. I seguaci dell’ex presidente hanno cominciato a scaldarsi con urla di guerra, mentre i nemici acclamavano l’arresto, felici che finalmente fosse arrivata la giusta condanna per il Tycoon. L'intelligenza artificiale al servizio delle fake news diventerà sempre più pericolosa, man mano che le tecnologie evolveranno.
Henry Ajder, esperto di intelligenza artificiale e Deepfake ha spiegato a Newsweek che per chi non ha un background nell'intelligenza artificiale sarà sempre più difficile distinguere il vero dal falso. “Queste immagini potrebbero essere condivise in spazi informativi più isolati e ristretti, dove sono inquadrate in modo diverso da persone che sono alla ricerca di conferme ed essenzialmente alla ricerca di output, immagini che mostrino Trump arrestato per suscitare indignazione o gioia in alcuni casi". Non solo, su internet le notizie vengono legge sempre più velocemente, scorrendo le informazioni in modo distratto aumenta il rischio di essere permeabili a informazioni false.
