Seit über einem Jahr hat der Forscher der Anti-Defamation League, Daniel Kelley, Nachbildungen einer schrecklichen Massenerschießung auf Roblox gefunden – und jedes Mal, wenn er nachschaut, sagt er, dass er mehr findet. Kelley erzählte The Verge, dass dies dreimal passiert ist: zuerst im Januar 2020, dann erneut im Mai 2021. Der letzte Vorfall ereignete sich am 13. August, als er eine Präsentation darüber vorbereitete, wie anstößige Inhalte gemeldet werden können.
“Ich möchte einmal”, sagte Kelley auf Twitter nach dem letzten Vorfall, “auf Roblox nach 'Christchurch' zu suchen und keine neue Nachbildung der Christchurch-Moschee-Schießerei von 2019 auf einer Spieleplattform zu finden, die sich an sehr junge Menschen richtet.” Kinder.“
Die Schießerei auf Moscheen, bei der mehr als 50 Menschen ums Leben kamen, wurde als eine der gewalttätigsten Einzeltaten religiösen Hasses der letzten Jahre verurteilt. Nach der Schießerei nannte Premierministerin Jacinda Ardern es „einen der dunkelsten Tage Neuseelands“.
„Jedes Spiel auf ‚Roblox‘ ist potenziell eine soziale Plattform an und für sich“
The Verge bestätigte Kelleys Entdeckung und fand zwei verschiedene Roblox-Erlebnisse, die sich auf die Schießerei konzentrierten, durch eine einfache Textsuche nach „Christchurch. ” In beiden Räumen wurden mehr als zweihundert Besuche verzeichnet.
Roblox überwacht proaktiv terroristische Inhalte, aber die von Kelley angezeigten Szenarien scheinen durchgerutscht zu sein. Als wir um einen Kommentar gebeten wurden, bestand Roblox darauf, dass die Plattform aggressiv gegen die Nachbildung von Massenerschießungen vorgeht.
„Wir haben diese Erfahrung umgehend von Roblox entfernt, nachdem wir darauf aufmerksam gemacht und die Benutzer, der für die Verletzung unserer Community-Regeln verantwortlich ist“, sagte ein Unternehmensvertreter in einer Erklärung. „Wir tolerieren keinen Rassismus, diskriminierende Äußerungen oder Inhalte im Zusammenhang mit tragischen Ereignissen. Wir haben ein strenges Sicherheits- und Überwachungssystem, das kontinuierlich aktiv ist und das wir rigoros und proaktiv durchsetzen.“
Hinweise auf die Schießerei in Christchurch seien durch automatische Textsuchen besonders schwer zu blockieren, da ein Catchall-Filter auch Hinweise auf die Stadt blockieren würde. “In diesem Fall umfasst unsere proaktive Erkennung eine Überprüfung durch einen Menschen, um einen Ausgleich zu ermöglichen, der Verweise auf den geografischen Standort (Neuseelands größte Stadt) ermöglicht, jedoch keine Verwendungen, die gegen unsere Richtlinien verstoßen”, fuhr der Mitarbeiter fort.
Ein Teil des Problems ist auf die schiere Größe von Roblox zurückzuführen – das Ergebnis eines schnellen und beispiellosen Wachstums. Das Spiel hat derzeit über 40 Millionen tägliche Benutzer, was zu einer Flut von benutzergenerierten Räumen führt, die zu groß sind, um sie manuell zu scannen. Die verteilte Struktur des Spiels, die darauf beruht, dass die Benutzer ihre eigenen Szenarien und Räume erstellen, macht die Überwachung besonders schwierig.
Roblox beantragte im November den Börsengang und behauptete in einer Einreichung, dass das Spiel wurde von mehr als der Hälfte der Kinder unter 16 Jahren in den USA gespielt. Das Unternehmen wird derzeit mit rund 45 Mrd. $ bewertet.
In derselben IPO-Anmeldung werden insbesondere Probleme der Community-Moderation als potenzielles Risiko für das Unternehmen genannt. „Der Erfolg unseres Geschäftsmodells hängt von unserer Fähigkeit ab, eine sichere Online-Umgebung für Kinder bereitzustellen“, heißt es in der Einreichung. „Wenn wir nicht in der Lage sind, weiterhin eine sichere Umgebung zu schaffen, wird unser Geschäft dramatisch darunter leiden.“
Als Extremismusforscher macht sich Kelley weniger Sorgen um die Gesundheit von Roblox' Geschäft und sind eher besorgt, dass die Plattform zu einem Vektor der Radikalisierung werden könnte.
„Jedes Spiel auf Roblox ist potenziell eine soziale Plattform und kann Spielern jeden Alters Zuflucht bieten die mit hasserfüllten Ideologien online flirten oder sich voll mit ihnen beschäftigen“, sagt Kelley. „Jeder Raum, der die Verehrung hasserfüllter Ideologien ermöglicht … trägt zur Normalisierung dieser Ideologien und ihrer Verbreitung bei.“
Adi Robertson hat zu diesem Artikel beigetragen.