I over et år har Anti-Defamation League-forsker Daniel Kelley funnet gjenopprettelser av et fryktelig masseskyting på Roblox-og hver gang han ser, sier han at han finner mer. Kelley fortalte The Verge at det har skjedd tre ganger: først i januar 2020, deretter igjen i mai 2021. Den siste hendelsen kom 13. august, da han forberedte en presentasjon om hvordan man rapporterer krenkende innhold.
“Jeg vil gjerne en gang,” sa Kelley på Twitter etter den siste hendelsen, “for å søke etter 'Christchurch' på Roblox og ikke finne en ny rekreasjon av skytingen i Christchurch -moskeen i 2019 på en spillplattform rettet mot veldig unge barn. ”
Moskéskytingen, som drepte mer enn 50 mennesker, har blitt fordømt som en av de mest voldelige enkelthandlingene av religiøst hat som har blitt utført de siste årene. I kjølvannet av skytingen kalte statsminister Jacinda Ardern det “en av New Zealands mørkeste dager.”
“Hvert spill på 'Roblox' er potensielt en sosial plattform i seg selv”
The Verge bekreftet Kelleys funn og fant to forskjellige Roblox -opplevelser fokusert på skytingen gjennom et enkelt tekstsøk etter “Christchurch. ” Begge rommene hadde logget mer enn to hundre besøk.
Roblox overvåker proaktivt for terrorinnhold, men scenariene som er merket av Kelley ser ut til å ha glidd gjennom. Innhentet for kommentar insisterte Roblox på at plattformen aggressivt modererer mot gjenskaper av masseskytinger.
“Vi fjernet denne erfaringen fra Roblox umiddelbart etter at den ble gjort oppmerksom på oss og suspendert bruker som er ansvarlig for å bryte våre fellesskapsregler, “sa en representant for selskapet i en uttalelse. “Vi tolererer ikke rasisme, diskriminerende tale eller innhold knyttet til tragiske hendelser. Vi har et strengt sikkerhets- og overvåkingssystem som er kontinuerlig aktivt og som vi håndterer strengt og proaktivt. ”
Referanser til skytingen i Christchurch er spesielt vanskelig å blokkere gjennom automatiske tekstsøk, sa selskapet, siden et fangstfilter også ville blokkere referanser til byen. “I dette tilfellet inkluderer vår proaktive oppdagelse menneskelig gjennomgang for å balansere referanser til den geografiske beliggenheten (New Zealands største by), men ikke bruk som bryter retningslinjene våre,” fortsatte representanten.
En del av saken stammer fra Roblox store størrelse – et resultat av rask og enestående vekst. Spillet har for øyeblikket over 40 millioner daglige brukere, noe som resulterer i en flom av brukergenererte rom som er for massive til å skanne manuelt. Den distribuerte strukturen i spillet, som er avhengig av at brukerne genererer sine egne scenarier og mellomrom, gjør det spesielt utfordrende å overvåke.
Roblox ble offentliggjort i november, og hevdet i et arkiv at spillet hadde blitt spilt av mer enn halvparten av barna under 16 år i USA. Selskapet er for tiden verdsatt til omtrent 45 milliarder dollar.
Den samme IPO -søknaden nevner spesifikt problem med moderering av samfunnet som en potensiell risiko for virksomheten. “Suksessen til vår forretningsmodell er betinget av vår evne til å tilby et trygt online miljø for barn å oppleve,” heter det i arkivet. “Hvis vi ikke kan fortsette å tilby et trygt miljø, vil virksomheten vår lide dramatisk.”
Som ekstremismeforsker er Kelley mindre bekymret for helsen til Roblox virksomhet, og mer bekymret for at plattformen kan bli en vektor for radikalisering.
“Hvert spill på Roblox er potensielt en sosial plattform i seg selv, og kan potensielt gi tilflukt til spillere i alle aldre som flørter med eller er fullt engasjert i hatefulle ideologier på nettet, sier Kelley. “Hvert rom som tillater ærbødighet for hatefulle ideologier … bidrar til normalisering av disse ideologiene og deres spredning.”
Adi Robertson bidro med rapportering til denne artikkelen.