I over et år har Anti-Defamation League-forsker Daniel Kelley fundet genoprettelser af et forfærdeligt masseskyderi på Roblox-og hver gang han kigger, siger han, at han finder mere. Kelley fortalte The Verge, at det er sket tre gange: først i januar 2020, derefter igen i maj 2021. Den seneste hændelse kom den 13. august, da han forberedte en præsentation om, hvordan man rapporterer krænkende indhold.
“Jeg vil gerne en gang,” sagde Kelley på Twitter efter den sidste hændelse, “for at søge efter 'Christchurch' på Roblox og ikke finde en ny rekreation af Christchurch -moskéen i 2019 på en spilplatform, der er rettet mod meget unge børn. ”
Moskéskydningen, der dræbte mere end 50 mennesker, er blevet fordømt som en af de mest voldelige enkelte handlinger af religiøst had, der er foretaget i de seneste år. I kølvandet på skyderiet kaldte premierminister Jacinda Ardern det “en af New Zealands mørkeste dage.”
“Hvert spil på 'Roblox' er potentielt en social platform i sig selv”
The Verge bekræftede Kelleys fund og fandt to forskellige Roblox -oplevelser med fokus på skydningen gennem en simpel tekstsøgning efter “Christchurch. ” Begge værelser havde logget mere end to hundrede besøg.
Roblox overvåger proaktivt for terrorindhold, men scenarierne, der er markeret af Kelley, ser ud til at være gledet igennem. Henvendt til kommentar insisterede Roblox på, at platformen aggressivt modererer mod genskabelser af masseskyderier.
“Vi fjernede straks denne oplevelse fra Roblox, efter at den blev gjort opmærksom på os og suspenderet bruger ansvarlig for overtrædelse af vores fællesskabsregler, ”sagde en virksomhedsrepræsentant i en erklæring. ”Vi tolererer ikke racisme, diskriminerende tale eller indhold i forbindelse med tragiske begivenheder. Vi har et strengt sikkerheds- og overvågningssystem, der er kontinuerligt aktivt, og som vi strengt og proaktivt håndhæver. ”
Henvisninger til Christchurch -skydningen er særligt vanskelige at blokere gennem automatiske tekstsøgninger, sagde virksomheden, da et catchall -filter også ville blokere referencer til byen. “I dette tilfælde omfatter vores proaktive opsporing menneskelig gennemgang for at afbalancere referencer til den geografiske placering (New Zealands største by), men ikke anvendelser, der overtræder vores politikker,” fortsatte repræsentanten.
En del af spørgsmålet stammer fra Roblox store størrelse – resultatet af hurtig og hidtil uset vækst. Spillet kan i øjeblikket prale af over 40 millioner daglige brugere, hvilket resulterer i en oversvømmelse af brugergenererede lokaler, der er for massive til manuelt at scanne. Spillets distribuerede struktur, der er afhængig af, at brugere genererer deres egne scenarier og rum, gør det særligt udfordrende at overvåge.
Roblox indgav offentliggørelse i november og hævdede i et arkiv, at spillet var blevet spillet af mere end halvdelen af børnene under 16 år i USA. Virksomheden er i øjeblikket værdiansat til cirka 45 milliarder dollars.
Den samme IPO -ansøgning navngiver specifikt problem med moderering af fællesskabet som en potentiel risiko for virksomheden. “Succesen for vores forretningsmodel er betinget af vores evne til at skabe et sikkert onlinemiljø for børn at opleve,” lyder det i arkivet. “Hvis vi ikke er i stand til at fortsætte med at skabe et sikkert miljø, vil vores forretning lide dramatisk.”
Som ekstremismeforsker er Kelley mindre bekymret over sundheden i Roblox virksomhed, og mere bekymret for, at platformen kunne blive en vektor for radikalisering.
“Hvert spil på Roblox er potentielt en social platform i sig selv og kan potentielt give tilflugt til spillere i alle aldre der flirter med eller er fuldstændig engageret i hadefulde ideologier online, ”siger Kelley. “Hvert rum, der tillader ærbødighed for hadfulde ideologier … bidrager til normalisering af disse ideologier og deres spredning.”
Adi Robertson bidrog med rapportering til denne artikel.