En tidligere indholdsmoderator for TikTok har anlagt sag mod platformen med påstand om, at moderselskabet ByteDance yder utilstrækkelige sikkerhedsforanstaltninger for at beskytte moderatorernes mentale sundhed mod et næsten konstant angreb af traumatiske optagelser.
I et foreslået gruppesøgsmål indgivet til California Central District Court siger Candie Frazier, at hun brugte 12 timer om dagen på at moderere videoer uploadet til TikTok for et tredjepartskontraktfirma ved navn Telus International. På det tidspunkt siger Frazier, at hun var vidne til “tusindvis af ekstreme og grafiske voldshandlinger”, herunder masseskyderier, børnevoldtægt, lemlæstelse af dyr, kannibalisme, bandemord og folkedrab.
Frazier siger, at for at kunne håndtere den enorme mængde indhold, der blev uploadet til TikTok dagligt, var hun og hendes andre moderatorer nødt til at se mellem tre og ti videoer samtidigt, med nye videoer indlæst på mindst hvert 25. sekund. Moderatorer må kun holde én 15 minutters pause i de første fire timer af deres vagt, og derefter yderligere 15 minutters pauser hver anden time bagefter. Retssagen siger, at ByteDance overvåger ydeevnen nøje og “straffer hårdt enhver tid, der tages væk fra at se grafiske videoer.”
TikTok opfyldte ikke industristandarder for indholdsmoderering, hævder retssagen
Retssagen fastslår, at TikTok og dets partnere har undladt at opfylde brancheanerkendte standarder, der har til formål at afbøde skaderne ved moderering af indhold. Disse omfatter at tilbyde moderatorer hyppigere pauser, psykologisk støtte og tekniske sikkerhedsforanstaltninger såsom sløring eller reduktion af opløsningen af videoer, der gennemgås.
Som et resultat af sit arbejde siger Frazier, at hun har lidt “alvorlige psykologiske traumer, herunder depression og symptomer forbundet med angst og PTSD.” Retssagen siger, at Frazier har “besvær med at sove, og når hun sover, har hun forfærdelige mareridt. Hun ligger ofte vågen om natten og prøver at falde i søvn og afspiller videoer, som hun har set i tankerne. Hun har alvorlige og invaliderende panikanfald.”
Vidnesbyrdet i Fraziers retssag passer til rapporter om indholdsmoderatorer, der arbejder (normalt indirekte) for andre store teknologivirksomheder som Facebook, YouTube og Google. I løbet af de sidste par år er de forfærdelige arbejdsforhold, som disse moderatorer står over for – en arbejdsstyrke, der er helt afgørende for at opretholde rentabiliteten for nogle af verdens største virksomheder – blevet mere og mere undersøgt. Rapporter som Fraziers antyder dog, at på trods af den ekstra opmærksomhed, er arbejdsforholdene for moderatorer stadig utroligt udfordrende.
Frazeris retssag blev anlagt af Californiens Joseph Saveri Law Firm, som tidligere anlagde en lignende retssag i 2018 mod moderatorer, der anmelder indhold til Facebook. Den sag resulterede i en 52 millioner dollars forlig betalt af Facebook til dets indholdsmoderatorer. The Verge har kontaktet ByteDance for en kommentar og vil opdatere denne historie, hvis vi hører tilbage.