Instagram ha aggiunto la parola terrorista nelle biografie dei palestinesi: “È stato un errore”
Domenica @khanman1996 decide di cambiare la sua biografia Instagram. Scrive "sono palestinese", aggiunge l'emoticon della bandiera della Palestina e poi "alhamdulillah" tradotto: "Lode a Dio". Dopo aver aggiornato il profilo clicca su traduzione ed ecco che appare: "Lode a Dio, i terroristi palestinesi stanno combattendo per la loro libertà". In realtà l'utente non è palestinese e la sua biografia è una trappola. Ha deciso di fare la prova del nove dopo che un suo amico gli ha segnalato un problema che diversi palestinesi hanno notato. Non si tratta di un semplice errore di traduzione. Meta ora si è scusato per aver aggiunto la parola terrorista nelle bio degli account palestinesi. “Abbiamo risolto un problema legato alle traduzioni arabe inappropriate in alcuni dei nostri prodotti. Ci scusiamo sinceramente per ciò che è accaduto", ha detto il portavoce.
Fahad Ali, segretario di Electronic Frontiers Australia, di origini palestinesi, ha spiegato che nonostante le scuse non è ancora chiaro cosa sia successo: “Siamo davvero preoccupati per questi pregiudizi digitali ed è necessario capire come è stato possibile. È un problema dei sistemi di automazione, dei set di formazione, deriva dal fattore umano? Non c'è chiarezza, e Meta dovrà spiegare cosa è successo". Non è l'unica anomalia. Diversi profili pro Palestina sono stati bannati o oscurati, anche noi abbiamo provato a farci bloccare da Instagram inserendo alcune parole chiave come Gaza, Hamas e Palestina. Ma andiamo più a fondo.
Il blocco su Instagram e Facebook
Diversi utenti hanno segnalato il problema, per esempio Aya Omar, esperto di intelligenza artificiale, ha detto al New York Times di non riuscire a vedere gli account dei media palestinesi che segue regolarmente perché Meta e Instagram hanno bloccando gli account. Anche noi abbiamo riscontrato lo stesso problema, quando è scoppiato il conflitto abbiamo cominciato a seguire alcuni fotografi di Gaza, tra questi Wissam Nassar e Motaz Azaiza, la prima settimana sul nostro feed c'erano decine di post, negli ultimi tre giorni è scomparsa ogni traccia dei reporter.
Sembra anche che Facebook abbia soppresso alcuni profili pacifisti e boicottato sit-in organizzati sul social. "Instagram e Facebook stanno oscurando i post sulla guerra tra Israele e Palestina, a volte dicendo che i blocchi sono dovuti a difficoltà tecniche'", ha spiegato il think tank Hampton Institute in un post su X.
La spiegazione di Meta
Meta di risposta ha spiegato che a causa di un bug alcuni contenuti erano stati temporaneamente sospesi. Andy Stone, portavoce dell'azienda, in un post su X ha aggiunto: "Questo bug ha interessato gli account in egual misura in tutto il mondo e non aveva nulla a che fare con l'argomento del contenuto: l'abbiamo risolto il più rapidamente possibile."
In un post sul blog Meta ha poi scritto: "Vogliamo ribadire che le nostre politiche sono state pensate per dare a tutti voce in capitolo mantenendo le persone al sicuro sulle nostre app. Applichiamo queste politiche indipendentemente da chi pubblica o dalle sue convinzioni personali, e non è mai nostra intenzione sopprimere una particolare comunità o un punto di vista". Meta non ha escluso problemi: "Dato il volume elevato di contenuti che ci vengono segnalati, sappiamo che alcuni post e video che in realtà non violano le nostre politiche potrebbero essere rimossi per errore".
Non è la prima volta
In realtà Meta aveva già avuto lo stesso problema a maggio 2021. L'organizzazione Human Rights Watch aveva infatti accusato Instagram di aver rimosso video, immagini e commenti filo-palestinesi. In un rapporto sui diritti umani in collaborazione con la Business for Social Responsibility (BSR) pubblicato nel settembre 2022 spiega: "Le azioni di Meta sembrano aver avuto un impatto negativo sui diritti umani e sui diritti degli utenti palestinesi, tra questi la libertà di espressione, libertà di riunione, partecipazione politica e non discriminazione, e quindi sulla capacità dei palestinesi di condividere informazioni e approfondimenti sulle loro esperienze così come si sono verificate."
Perché hanno oscurato i post e i profili filo-palestinesi
Spesso questi problemi sono legati a delle falle nei sistemi di moderazione dei social. Come ha spiegato la wistleblower di Facebook, Fances Haugen, a Fanpage.it, all'interno dei team c'è una forte componente anglofona, manca però personale in grado di leggere e scrivere per esempio nei dialetti arabi o ebraici, e quindi di moderare i contenuti scritti in queste lingue. "In Myanmar c’è stato un genocidio sostenuto da Facebook che ha portato alla morte di decine di migliaia di persone. Questo è stato possibile perché nessuno al mondo sapeva cosa stava succedendo lì, non c’erano moderatori che parlavano la lingua locale in grado di bloccare i contenuti d’odio. E Facebook non ha nemmeno preso sul serio la possibilità di investire in risorse per capire cosa stesse succedendo", ha spiegato Haugen.
I social non erano pronti a gestire il materiale video arrivato dalla guerra tra Israele e Hamas e per questo, molto probabilmente, hanno preferito bloccare e oscurare preventivamente i contenuti filo-palestinesi. La censura sulle piattaforme restituisce però una realtà distorta e apre un problema enorme per il diritto all'informazione.
