Ora anche l’Isis genera video con l’intelligenza artificiale: come funziona la nuova propaganda
Dove c'è uno strumento, c'è un modo per usarlo male. E da oltre un anno l'umanità colleziona modi sbagliati per utilizzare le intelligenze artificiali. Da quelli che fanno sorgere dubbi etici, come riportare i defunti in vita per poter parlare un'ultima volta con loro a quelli che possono compromettere la reputazione altrui (per esempio il caso del preside licenziato per un finto audio razzista).
Non sono le uniche maniere per utilizzare in modo discutibile una nuova tecnologia. Per esempio, possono finire nelle mani di un gruppo terroristico o di chi lo supporta. È il caso rivelato da Italian Team for Security Terroristic Issues and Managing Emergencies (ITSTIME), un gruppo di ricerca del Dipartimento di Sociologia dell'Università Cattolica del Sacro Cuore: non solo un telegiornale interamente generato dall'intelligenza artificiale, ma anche un modo per creare e diffondere materiale di propaganda a favore dell'Isis. Un nuovo esperimento tecnologico che potrebbe aprire le porte a un nuovo modo per reclutare futuri jihadisti.
Il finto telegiornale diffuso da un simpatizzante dell'Isis
Il primo video è stato pubblicato pochi giorni dopo l'attacco al Crocus City Hall, la sala da concerti di Mosca dove 145 persone sono morte per mano di quattro terroristi del Tagikistan. Sullo schermo, un uomo vestito con abiti militari che parla proprio dell'attacco nel cuore della Federazione russa. A metà fra un presentatore e un inviato di guerra, in realtà si tratta di un avatar generato con una tecnologia che ricorda quella dei deepfake. Il volto dell'uomo che parla, le labbra che si muovono mentre pronuncia quello che sembra un notiziario in lingua araba. Tutto è generato da un'intelligenza artificiale.
Ma quello pubblicato dopo l'attacco a Mosca non è l'unico video a essere stato diffuso online. Altri quattro video sono stati generati nei giorni successivi. Il format è sempre lo stesso: un avatar (vestito con abiti civili a partire dal secondo video) che racconta i successi dell'Isis, mentre scorrono immagini reali riprese nelle zone dove i terroristi sono ancora presenti. Forse è stato usato più di un modello di intelligenza artificiale per generare le diverse parti del video.
L'obiettivo, però, è uno solo: diffondere propaganda dello Stato Islamico. Le notizie che vengono trasmesse nel finto telegiornale arrivano proprio dagli organi di stampa ufficiali del gruppo terroristico. Una scelta deliberata per "accelerare e facilitare la diffusione di informazioni e materiale propagandistico a un pubblico occidentale più ampio", come si legge nello studio pubblicato su Global Network on Extremism and Terrorism.
Il problema teologico dei deepfake per l'Islam
Che sia una novità ben accolta lo dimostrano i commenti che sono stati scritti su una piattaforma di messaggistica comune fra i simpatizzanti dello Stato Islamico e dove questi finti telegiornali sono stati condivisi la prima volta. Non solo: "Il fatto che il video abbia attirato l'attenzione della community si vede dai diversi consigli che altri utenti hanno dato per rendere il video teologicamente coerente", scrivono i ricercatori. Suggerimenti che non sono stati ignorati. Nel quinto video di propaganda il volto dell'avatar è stato oscurato per non cadere in peccato: ogni rappresentazione umana, infatti, è vietata nell'Islam. E la generazione di un deepfake lascia spazio alle questioni teologiche.
Si tratta del primo caso documentato in cui un sostenitore dello Stato Islamico usa l'intelligenza artificiale per diffondere propaganda, che ricorda un utilizzo simile avvenuto a dicembre. In quell'occasione era stato un gruppo di hacker filo-iraniani a interrompere una trasmissione emiratina per trasmettere un finto telegiornale fake generato con l'IA, dove un avatar-giornalista annuncia un servizio, mostrando poi alcune immagini (reali) registrate a Gaza. Un altro "esperimento" che dà un assaggio su come potrebbero essere combattute le prossime guerre.
