Cacciano il preside per un audio razzista, ma era un deepfake creato per vendetta

Stava per imbarcarsi su un volo che lo avrebbe portato da Baltimora a Houston, ma la polizia lo ha fermato perché aveva una pistola addosso. Dopo un veloce controllo, gli agenti hanno scoperto che sull'uomo pendeva un mandato di arresto. Il motivo non aveva nulla a che fare con la pistola che stava portando con sé, ma con il tentativo (riuscito, fino a quel momento) di diffamare il preside della scuola dove lavorava come insegnante di educazione fisica. Un piano orchestrato quasi alla perfezione e portato avanti grazie all'intelligenza artificiale, ma non abbastanza da evitare di essere scoperto.

Cosa si sente nell'audio deepfake che ha messo sotto accusa il preside della scuola di Pikesville

Nell'audio che è circolato nella comunità di Pikesville, appena fuori Baltimora, si sentiva chiaramente il preside della scuola superiore lasciarsi andare a evidenti commenti razzisti e antisemiti. Nella registrazione, il dirigente scolastico se la prendeva con gli studenti afroamericani dell'istituto e con la comunità ebraica locale. Parole che hanno suscitato scandalo e che hanno portato al suo immediato allontanamento dalla scuola, fra i timori e le rimostranze dei genitori degli studenti e del resto della comunità.

Le parole incriminate, però, non sono mai uscite veramente dalla bocca del preside Eric Eiswert, ma erano state fabbricate ad arte da Dazhon Darien, insegnante trentunenne che aveva deciso di vendicarsi con il dirigente scolastico per un'indagine che lo riguardava da vicino. Darien, infatti, era indagato dalle autorità scolastiche per avere pagato indebitamente un suo amico, un allenatore di basket, con i fondi scolastici e senza passare dal normale iter amministrativo. Un'accusa, partita dal preside, che lo aveva spinto lo scorso gennaio a vendicarsi.

Quali sono le stranezze che hanno fatto insospettire la polizia

Le ricerche per trovare lo strumento adatto per il suo piano le ha fatte proprio sulla rete scolastica. Quale generatore di audio deepfake abbia utilizzato alla fine non è ancora chiaro, ma non mancano online le opzioni per simulare la voce di persone più o meno famose. Le conseguenze, però, si sono viste subito. Fra insegnanti che temevano fossero state piazzate delle microspie in giro per la scuola, dipendenti che hanno chiesto a gran voce un aumento degli agenti di polizia a presidiare la scuola per timori sulla sicurezza e genitori che hanno cominciato di trasferire i propri figli in altri istituti, il caos è arrivato presto alla Pikesville High School.

Il preside Eiswert è stato allontanato, ma sin da subito alcuni esperti hanno evidenziato alcune stranezze negli audio che sono stati diffusi online: il tono monocorde, l'assenza di rumori di sottofondo, quasi nessuna pausa nel discorso o suono di respiro hanno fatto insospettire anche la polizia, che ha cominciato a seguire il caso. Un indizio dopo l'altro, la polizia è riuscita a ricostruire il percorso che ha portato alla diffusione virale dell'audio deepfake. Il primo a diffonderlo è stato, come si può intuire, lo stesso Darien, che ha usato un indirizzo email che poi è stato ricollegato proprio a lui. Prima lo ha condiviso con altri due insegnanti. È stata una collega a dare il colpo di grazia, inoltrando l'audio a uno studente che avrebbe sicuramente assicurato la "viralità" online dell'audio.

"L'audio ha avuto profonde ripercussioni. Non solo ha portato all’allontanamento temporaneo di Eiswert dalla scuola, ma ha anche portato a un’ondata di messaggi d’odio sui social media e numerose chiamate alla scuola", ha scritto la polizia nel documento che ha formalizzato l'accusa nei confronti di Darien, come riportato dal Baltimore Banner. Mentre entrambi i protagonisti di questa storia dovranno affrontare le conseguenze concrete dell'audio deepfake, si apre un nuovo capitolo sulle intelligenze artificiali usate male.