En bekymrende rapport fra Wall Street Journal graver i de personlige oplevelser hos unge piger, der blev sendt ned i kaninhuller med ekstreme vægttabsudfordringer, udrensningsteknikker og dødelige diæter gennem TikTok, hvilket bidrager til udviklingen af spiseforstyrrelser eller gør eksisterende værre. . WSJ lavede sit eget eksperiment for at se, hvordan TikToks algoritme potentielt kan promovere denne form for skadeligt indhold – dets resultater kan forklare TikToks pludselige beslutning om at ændre den måde, dets videoanbefalingssystem fungerer på.
Som beskrevet i rapporten oprettede WSJ over 100 konti “der gennemsøgte appen med lidt menneskelig indgriben”, hvoraf 12 var bots registreret til 13-årige, der brugte tid på videoer omkring vægttab, alkohol og gambling. Et diagram inkluderet i rapporten viser, at så snart en af botterne brat stoppede med at se gambling-relaterede videoer og begyndte at bruge tid på videoer om vægttab i stedet, justerede TikToks algoritme sig selv i overensstemmelse hermed; det øgede hurtigt antallet af vægttabsvideoer, som botten så for at forklare dette skift i adfærd.
“Selvom dette eksperiment ikke afspejler den oplevelse, de fleste mennesker har på TikTok, er selv én person, der har den oplevelse, én for meget ”
Ved afslutningen af sit eksperiment fandt WSJ ud af, at af de 255.000 videoer, som bots så i alt, indeholdt 32.700 af dem en beskrivelse eller metadata, der matchede en liste med hundredvis af søgeord vedrørende vægttab. 11.615 videoer havde tekstbeskrivelser, der matchede søgeord, der var relevante for spiseforstyrrelser, mens 4.402 havde en kombination af søgeord, der indikerede normalisering af spiseforstyrrelser.
En række af disse videoer brugte angiveligt forskellige stavemåder til spiseforstyrrelsesrelaterede søgeord for at undgå at blive markeret af TikTok. Efter at WSJ gjorde platformen opmærksom på en prøve på 2.960 spiseforstyrrelsesrelaterede videoer, blev 1.778 fjernet – WSJ siger, at det er uklart, om det er blevet fjernet af TikTok eller skaberne selv.
Blot en dag før WSJ's rapport faldt, meddelte TikTok, at det arbejder på nye måder at stoppe disse farlige kaninhuller i at danne. Denne ændring skete også kun få dage efter, at WSJ sagde, at den kontaktede TikTok for at få en erklæring om dens kommende historie, så det er muligt, at TikTok forebyggende udrullede opdateringen, før rapporten blev offentliggjort.
I sit indlæg anerkender TikTok, at det ikke altid er sundt at se visse former for indhold igen og igen, inklusive videoer relateret til ekstrem slankekure og fitness. Det arbejder nu på en måde at erkende, om dets anbefalingssystem utilsigtet viser videoer, der måske ikke bryder TikToks politikker, men kan være skadelige, hvis de forbruges overdrevent. Platformen siger også, at den tester et værktøj, der vil lade brugere stoppe videoer, der indeholder bestemte ord eller hashtags, i at blive vist på deres Til dig-side.
“Selvom dette eksperiment ikke afspejler den oplevelse, de fleste mennesker har på TikTok, er selv én person, der har den oplevelse, én for meget,” sagde TikTok-talsmand, Jamie Favazza, i en erklæring til The Verge. “Vi tillader uddannelses- eller restitutionsorienteret indhold, fordi vi forstår, at det kan hjælpe folk med at se, at der er håb, men indhold, der promoverer, normaliserer eller glorificerer spiseforstyrrelser, er forbudt.” Talsmanden påpegede også, at TikTok giver adgang til National Eating Disorder Association Hotline i appen.
Hvis denne situation virker bekendt for dig, er det fordi Instagram allerede har været igennem den (og beskæftiger sig stadig med det). Efter whistleblower Francis Haugen lækkede Facebook Papers, en samling af afslørende interne Facebook-dokumenter, arbejdede Instagram hurtigt på at lappe hullerne i sit synkende skib.
Aviserne viser, at Facebook lavede sin egen research. på Instagrams indvirkning på teenagere og fandt ud af, at appen kunne skabe kaos på teenageres mentale helbred og også forværrede unge pigers kropsbillede. Omkring en måned senere annoncerede Instagram sine planer om at introducere en funktion, der vil “skubbe” teenagere væk fra at se potentielt skadeligt indhold. Det udrullede også en “tag en pause”, der beder brugerne om at lukke appen, hvis de har brugt en bestemt tid på platformen, lige fra 10, 20 eller 30 minutter.
Relateret