Perché in Israele viene chiesto ai genitori di cancellare Instagram e TikTok dal telefono dei figli

Negli ultimi giorni del febbraio 2022 TikTok è entrato in guerra. Mentre i primi tank russi superavano i confini ucraini per iniziare la marcia verso Kiev, la piattaforma ha cominciato ad essere utilizzata per la prima volta come un mezzo da cui diffondere notizie di assalti e bombardamenti. Certo da quando è nato, nel 2016, di guerre ce ne sono state parecchie nel mondo ma mai in Paesi dove la maggior parte della popolazione era dotata di smartphone e internet riusciva ad arrivare quasi ovunque. Ora con gli attacchi di Hamas e la dichiarazione di guerra di Israele, su TikTok è cominciata una nuova guerra.

Il team di moderazione sta decidendo cosa tenere tenere e cosa lasciare. Quali video sono duri, violenti, ma servono agli utenti a capire cosa sta succedendo e quali video invece devono essere rimossi. E la stessa scelta la stanno facendo i moderatori di Meta, che hanno a disposizione uno storico più ampio sulla gestione dei conflitti, soprattutto su Facebook. Ed è al lavor anche quello che è rimasto del team di moderazione di X (fu Twitter). Su Telegram come al solito c’è di tutto, dai canali definiti in gergo gore che pubblicano le immagini peggiori della guerra ai canali di propaganda gestiti direttamente da Hamas.

La lettera dell’associazione dei genitori

Nelle ultime ore la giornalista Lidar Gravé-Lazi dell’emittente istraeliana ILTV News ha diffuso una lettera arrivata ai genitori delle scuole di Tel Aviv firmata dall’Israeli Parents Association, l’Associazione dei Genitori di Israele. Qui si chiede ai genitori di disinstallare sugli smartphone dei loro figli le app di TikTok e Instagram, per evitare che vedano nei prossimi giorni i messaggi pubblicati da Hamas sugli ostaggi rapiti nelle prime ore dell'attacco.

Cari genitori,
è stato portato alla nostra attenzione che presto verranno rilasciati video di ostaggi che implorano per la propria vita. Vi preghiamo di rimuovere le app di TIkTok e Instagram dagli smartphone dei vostri figli. Non possiamo permetterci che guardino questi contenuti. È difficile, ma non impossibile, anche per noi digerire tutti i contenuti che vediamo sui social network.

La moderazione sui social

Se le nuove politiche di Elon Musk hanno portato a un peggioramento del livello di disinformazione su X, su Instagram e TikTok il problema può diventare l’algoritmo di raccomandazione delle piattaforme. Un esempio, solo per capire la complessità di questa situazione. Al Jazeera è una rete televisiva in lingua araba di proprietà dello stato del Qatar. Il governo del Qatar ha dei rapporti con Hamas, viso che ospita alcuni dei suoi capi. Sono girate parecchio le immagini di Ismail Haniyeh, capo dell’ufficio politico di Hamas, mentre celebrava gli effetti degli attacchi al sicuro nel suo ufficio in Qatar. Sul canale TikTok di Al Jazeera ci sono diversi video, pubblicati prima del conflitto, che accusano in cui vengono ripresi gruppi di israeliani in atteggiamenti provocatori verso i palestinesi, dagli sputi per terra ai cori. È bastato vederne uno per trovarsi la bacheca sommersa di video dello stesso tipo.

Il rischio quindi è quello di farsi assorbire da bolle di video o di contenuti dove vengono mostrate immagini violente, o con una narrazione a una sola direzione, contenuti che con il procedere del conflitto saranno sempre più presenti sulla piattaforma. Il secondo problema, ancora difficile da risolvere per i team di moderazione, riguarda i Reel di Instagram. Qui, come testimoniato dal Washington Post lo scorso febbraio, esiste ancora un problema con la gestione dei video violenti.

Spesso, soprattutto nei Reel, si incrociano dei contenuti che dovrebbero fermarsi alle maglie della moderazione. Basta guardarne uno per essere travolti da un’ondata di sangue e violenza. Liz Hagelthorn, creatrice di meme, ha raccontato al Washington Post che l’algoritmo del social sembra creato per favorire questi video: “Più è estremo il contenuto e più è ottimizzato per l’algoritmo. Se le persone non approvano il contenuto o anche solo non sono d’accordo, in media passano tra l’8% e il 10% di tempo in più”.