En före detta innehållsmoderator för TikTok har lämnat in en stämningsansökan mot plattformen och hävdar att moderbolaget ByteDance tillhandahåller otillräckliga skyddsåtgärder för att skydda moderatorernas mentala hälsa mot ett nästan konstant angrepp av traumatiska bilder.
I en föreslagen grupptalan som lämnats in i Kaliforniens centrala distriktsdomstol säger Candie Frazier att hon tillbringade 12 timmar om dagen på att moderera videor som laddats upp till TikTok för ett tredjepartskontraktsföretag vid namn Telus International. Under den tiden säger Frazier att hon bevittnade “tusentals handlingar av extremt och grafiskt våld”, inklusive masskjutningar, våldtäkt på barn, djurstympning, kannibalism, gängmord och folkmord.
Frazier säger att för att hantera den enorma mängd innehåll som laddas upp till TikTok dagligen, var hon och hennes andra moderatorer tvungna att titta på mellan tre och tio videor samtidigt, med nya videor laddade på minst var 25:e sekund. Moderatorer får bara ta en paus på 15 minuter under de första fyra timmarna av sitt skift, och sedan ytterligare 15 minuters pauser varannan timme efteråt. Stämningen säger att ByteDance övervakar prestanda noggrant och “straffar hårt varje tid som tas bort från att titta på grafiska videor.”
TikTok kunde inte uppfylla branschstandarder för innehållsmoderering, hävdar stämningsansökan
Rättegången säger att TikTok och dess partners har misslyckats med att uppfylla bransch-erkända standarder för att mildra skadorna av innehållsmoderering. Dessa inkluderar att erbjuda moderatorer tätare pauser, psykologiskt stöd och tekniska säkerhetsåtgärder som att sudda ut eller minska upplösningen på videor som granskas.
Som ett resultat av sitt arbete säger Frazier att hon har drabbats av “allvarliga psykologiska trauman inklusive depression och symtom associerade med ångest och PTSD.” Stämningen säger att Frazier har “svårt att sova och när hon väl sover har hon fruktansvärda mardrömmar. Hon ligger ofta vaken på nätterna och försöker sova och spelar upp videor som hon har sett i tankarna. Hon har svåra och försvagande panikattacker.”
Vittnesmålet i Fraziers stämningsansökan passar rapporter om innehållsmoderatorer som arbetar (vanligtvis indirekt) för andra stora teknikföretag som Facebook, YouTube och Google. Under de senaste åren har de fruktansvärda arbetsförhållandena för dessa moderatorer – en arbetskraft som är helt avgörande för att upprätthålla lönsamheten för några av världens största företag – blivit alltmer granskade. Rapporter som Fraziers tyder dock på att trots den extra uppmärksamheten är arbetsförhållandena för moderatorer fortfarande otroligt utmanande.
Frazeris stämningsansökan lämnades in av Kaliforniens Joseph Saveri Law Firm, som tidigare lämnade in en liknande stämningsansökan 2018 mot moderatorer som granskar innehåll för Facebook. Det fallet resulterade i en förlikning på 52 miljoner dollar som Facebook betalade till dess innehållsmoderatorer. The Verge har kontaktat ByteDance för kommentarer och kommer att uppdatera den här historien om vi hör tillbaka.