Decapitazioni, stupri, mutilazioni: rimuovere questi video da TikTok traumatizza i moderatori

I moderatori che tengono le pagine dei social al riparo dai contenuti più violenti svolgono un lavoro cruciale per le aziende che gestiscono queste piattaforme, ma spesso ne escono schiacciati dal punto di vista psicologico. L'ultimo allarme arriva nello specifico da TikTok ed è stato lanciato da Candie Frazier – una moderatrice statunitense in forze al social che ha iniziato ad essere colpita da incubi, ansia ricorrente e attacchi di panico dopo essere stata sottoposta alla visione migliaia di ore di contenuti violenti.

Turni massacranti

L'accusa è contenuta in una denuncia formale inoltrata dagli avvocati della donna nei confronti di TikTok. Frazier in effetti non è mai stata direttamente alle dipendenze del social, ma ha lavorato sulla piattaforma attraverso un'azienda appaltatrice; si tratta di una pratica comune nel settore, che però priva questa fetta cruciale di forza lavoro di molti dei diritti dei quali godono gli impiegati assunti direttamente. Nello specifico, Frazier ha raccontato di essere stata sottoposta a video violenti anche per 12 ore al giorno, con pause da 15 minuti ogni 2 ore che non le hanno mai veramente permesso di staccare da ciò che le si parava davanti agli occhi. Nella denuncia si fa menzione di sparatorie, atti di cannibalismo, omicidi, violenze sessuali su minori, mutilazioni di animali, e genocidio; più in generale la donna ha affermato di essere stata testimone di "migliaia di atti di violenza estrema ed esplicita", che peraltro si susseguivano a ciclo continuo.

Un flusso continuo di violenza

I contenuti in questione infatti rimanevano sul suo schermo per non più di 25 secondi, durante i quali Frazier doveva capire se il materiale segnalato costituiva effettivamente una violazione dei termini di utilizzo del servizio oppure no. Per ottimizzare ulteriormente i tempi, il software di moderazione affiancava sul suo schermo dai 3 ai 10 video contemporaneamente, il tutto mentre un sistema di supervisione dei moderatori controllava la sua velocità e il tempo passato su ciascun video per redarguirla in caso di pause non autorizzate.

Le conseguenze

Quello della moderazione dei contenuti violenti online è un problema noto da tempo, sul quale alcune aziende hanno iniziato a muoversi ma che purtroppo non è ancora stato completamente risolto. Nel caso di TikTok – sottolineano gli avvocati di Frazier – sembra che i lavoratori non godano neppure delle tutele comunemente riconosciute ai lavoratori del settore, che includono un sostegno psicologico, pause più frequenti e la possibilità di sfocare i video più violenti in modo che le immagini non restino impresse nitidamente nei ricordi dei moderatori. Come conseguenza di questa inondazione di materiale violento, Frazier ha lamentato sintomi gravi: dalla depressione ad attacchi di panico, passando per sintomi comunemente associati ad ansia e sindrome da stress post-traumatico, problemi a prendere sonno e frequenti incubi quando il sonno infine sopraggiunge.

La risposta di TikTok

I gestori del social hanno assicurato di avere a cuore "un ambiente di lavoro attento e premuroso nei confronti degli impiegati", affermando anche di avere in programma di "estendere la gamma dei servizi rivolti al benessere mentale dei moderatori"; nel frattempo la causa prosegue, portata avanti da uno studio che pochi anni fa è riuscito a ottenere da Facebook un risarcimento da 52 milioni per i suoi moderatori. Da una parte infatti le persone che hanno il compito di moderare i contenuti sui social lo fanno a rischio della loro incolumità mentale; dall'altra questo lavoro è proprio ciò che consente alle piattaforme di condivisione di rimanere in attività e fare decine di miliardi ogni anno.