Ein beunruhigender Bericht des Wall Street Journal befasst sich mit den persönlichen Erfahrungen junger Mädchen, die durch TikTok mit extremen Gewichtsverlustherausforderungen, Entschlackungstechniken und tödlichen Diäten in Kaninchenlöcher geschickt wurden, was zur Entwicklung von Essstörungen beitrug oder bestehende verschlimmerte. . Das WSJ hat ein eigenes Experiment durchgeführt, um zu sehen, wie der Algorithmus von TikTok diese Art von schädlichen Inhalten potenziell fördern kann – seine Ergebnisse könnten die plötzliche Entscheidung von TikTok erklären, die Funktionsweise seines Videoempfehlungssystems zu ändern.
Wie in dem Bericht beschrieben, erstellte das WSJ über 100 Konten, „die die App mit wenig menschlichem Eingreifen durchsuchten“, von denen 12 Bots waren, die für 13-Jährige registriert waren und Zeit mit Videos über Gewichtsverlust, Alkohol und Glücksspiel verbrachten. Eine im Bericht enthaltene Grafik zeigt, dass sich der Algorithmus von TikTok entsprechend angepasst hat, sobald einer der Bots abrupt aufhörte, glücksspielbezogene Videos anzusehen und stattdessen Zeit mit Videos über Gewichtsverlust verbrachte. es erhöhte schnell die Anzahl der Gewichtsverlustvideos, die der Bot sah, um diese Verhaltensänderung zu erklären.
“Obwohl dieses Experiment nicht die Erfahrung der meisten Leute mit TikTok widerspiegelt, ist selbst eine Person, die diese Erfahrung gemacht hat, eine zu viel ”
Am Ende seines Experiments stellte das WSJ fest, dass von den 255.000 Videos, die die Bots insgesamt gesehen hatten, 32.700 davon eine Beschreibung oder Metadaten enthielten, die mit einer Liste von Hunderten von Schlüsselwörtern zum Thema Gewichtsverlust übereinstimmten. 11.615 Videos enthielten Textbeschreibungen, die mit für Essstörungen relevanten Schlüsselwörtern übereinstimmten, während 4.402 eine Kombination von Schlüsselwörtern enthielten, die auf eine Normalisierung von Essstörungen hindeuteten.
In einer Reihe dieser Videos wurde Berichten zufolge unterschiedliche Schreibweisen für Keywords im Zusammenhang mit Essstörungen verwendet, um zu vermeiden, von TikTok gemeldet zu werden. Nachdem das WSJ die Plattform auf eine Stichprobe von 2.960 Essstörungs-bezogenen Videos aufmerksam gemacht hatte, wurden 1.778 entfernt. Das WSJ sagt, es sei unklar, ob es von TikTok oder den Machern selbst entfernt wurde.
Nur einen Tag bevor der Bericht des WSJ veröffentlicht wurde, gab TikTok bekannt, dass es an neuen Wegen arbeitet, um die Bildung dieser gefährlichen Kaninchenlöcher zu stoppen. Diese Änderung erfolgte auch nur wenige Tage, nachdem das WSJ mitteilte, dass es TikTok wegen einer Stellungnahme zu seiner bevorstehenden Geschichte kontaktiert hatte. Daher ist es möglich, dass TikTok das Update präventiv vor der Veröffentlichung des Berichts veröffentlicht hatIn seinem Beitrag räumt TikTok ein, dass es nicht immer gesund ist, bestimmte Arten von Inhalten immer wieder anzusehen, einschließlich Videos zu extremen Diäten und Fitness. Es arbeitet jetzt daran, zu erkennen, ob sein Empfehlungssystem unbeabsichtigt Videos bereitstellt, die möglicherweise nicht gegen die Richtlinien von TikTok verstoßen, aber bei übermäßigem Konsum schädlich sein könnten. Die Plattform sagt auch, dass sie ein Tool testet, mit dem Benutzer verhindern können, dass Videos mit bestimmten Wörtern oder Hashtags auf ihrer For You-Seite angezeigt werden.
„Obwohl dieses Experiment nicht die Erfahrung der meisten Leute mit TikTok widerspiegelt, ist selbst eine Person, die diese Erfahrung macht, eine zu viel“, sagte TikTok-Sprecher Jamie Favazza in einer Erklärung gegenüber The Verge. „Wir erlauben bildungs- oder erholungsorientierte Inhalte, weil wir verstehen, dass sie den Menschen helfen können, Hoffnung zu erkennen, aber Inhalte, die Essstörungen fördern, normalisieren oder verherrlichen, sind verboten.“ Der Sprecher wies auch darauf hin, dass TikTok innerhalb der App Zugang zur Hotline der National Eating Disorder Association bietet.
Wenn Ihnen diese Situation bekannt vorkommt, liegt dies daran, dass Instagram sie bereits durchgemacht hat (und beschäftigt sich immer noch damit). Nachdem der Whistleblower Francis Haugen die Facebook Papers, eine Sammlung aufschlussreicher interner Facebook-Dokumente, durchgesickert hatte, arbeitete Instagram schnell daran, die Löcher in seinem sinkenden Schiff zu schließen.
Die Papiere zeigen, dass Facebook seine eigenen Recherchen durchgeführt hat über die Auswirkungen von Instagram auf Teenager und stellte fest, dass die App die psychische Gesundheit von Teenagern zerstören und das Körperbild junger Mädchen verschlechtern könnte. Ungefähr einen Monat später kündigte Instagram seine Pläne an, eine Funktion einzuführen, die Teenager davon abhält, potenziell schädliche Inhalte anzuzeigen. Außerdem wurde eine „Pause machen“-Funktion eingeführt, die Benutzer auffordert, die App zu schließen, wenn sie eine bestimmte Zeit auf der Plattform verbracht haben, die zwischen 10, 20 oder 30 Minuten liegt.
Related