Da en bevæbnet mand i lørdags trak ind på parkeringspladsen ved en købmand i Buffalo, New York, i et racistisk angreb rettet mod et sort samfund, rullede hans kamera allerede.
CNN rapporterer, at en livestream på Twitch optaget fra den mistænktes synspunkt viste shoppere på parkeringspladsen, da den formodede skytte ankom, og derefter fulgte ham indenfor, da han begyndte en amok, der dræbte 10 mennesker og sårede tre. Twitch, der er populært for gaming livestreams, fjernede videoen og suspenderede brugeren “mindre end to minutter efter, at volden startede,” ifølge Samantha Faught, virksomhedens kommunikationschef for Americas. Kun 22 personer så angrebet udfolde sig i realtid online, rapporterer The Washington Post.
Men millioner så livestream-optagelserne efter kendsgerningen. Kopier og links til den genudsendte video spredte sig online efter angrebet og spredte sig til store platforme som Twitter og Facebook samt mindre kendte sider som Streamable, hvor videoen blev set mere end 3 millioner gange ifølge The New York Times.< /p>
Det er ikke første gang, at gerningsmændene til masseskyderier sender deres vold live online med optagelser, der efterfølgende spredes. I 2019 angreb en bevæbnet mand moskeer i New Zealands Christchurch og livestreamede hans drab på Facebook. Platformen sagde, at den fjernede 1,5 millioner videoer af angrebet i 24 timer efter. Tre år senere, med optagelser fra Buffalo genuploadet og videredelt dage efter det dødelige angreb, fortsætter platforme med at kæmpe med at dæmme op for strømmen af voldeligt, racistisk og antisemitisk indhold skabt ud fra originalen.
Moderering af livestreams er især svært, da tingene udspiller sig i realtid, siger Rasty Turek, administrerende direktør for Pex, en virksomhed, der skaber værktøjer til indholdsidentifikation. Turek, som talte med The Verge efter skyderiet i Christchurch, siger, at hvis Twitch virkelig var i stand til at forstyrre strømmen og fjerne den inden for to minutter efter dens begyndelse, ville svaret være “latterligt hurtigt.”
“Det er ikke kun ikke industristandard, det er en præstation, der var hidtil uset i sammenligning med mange andre platforme som Facebook,” siger Turek. Faught siger, at Twitch fjernede streamen midt i udsendelsen, men svarede ikke på spørgsmål om, hvor længe den påståede skytte udsendte, før volden begyndte, eller hvordan Twitch oprindeligt blev advaret om streamen.
“Udfordringen er, hvad der sker med den video bagefter. .”
Fordi livestreaming er blevet så bredt tilgængeligt i de senere år, erkender Turek, at det er umuligt at få moderationsresponstid ned til nul – og måske ikke den rigtige ramme til at tænke over problemet. Det, der betyder mere, er, hvordan platforme håndterer kopier og genuploads af det skadelige indhold.
“Udfordringen er ikke, hvor mange der ser livestreamen,” siger han. “Udfordringen er, hvad der sker med den video bagefter.” I tilfældet med livestream-optagelsen spredte den sig som en smittefare: ifølge The New York Times samlede Facebook-opslag, der linker til det streambare klip, mere end 43.000 interaktioner, da indlæggene blev hængende i mere end ni timer.
Store teknologivirksomheder har skabt et indholdsdetektionssystem til situationer som denne. Global Internet Forum to Counter Terrorism (GIFCT), oprettet i 2017 af Facebook, Microsoft, Twitter og YouTube, blev dannet med det formål at forhindre spredning af terrorindhold online. Efter Christchurch-angrebene sagde koalitionen, at den ville begynde at spore højreekstremistisk indhold og grupper online efter tidligere at have fokuseret mest på islamisk ekstremisme. Materiale relateret til Buffalo-skyderiet – som hash af videoen og manifestet, som skydespilleren angiveligt har lagt online – blev tilføjet til GIFCT-databasen, hvilket i teorien tillader platforme automatisk at fange og fjerne genindsendt indhold.
Men selv med GIFCT, der fungerer som en central reaktion i kriseøjeblikke, forbliver implementering et problem, siger Turek. Selvom en koordineret indsats er beundringsværdig, deltager ikke alle virksomheder i indsatsen, og dens praksis udføres ikke altid klart.
“Du har mange af disse mindre virksomheder, som i bund og grund ikke har ressourcerne [til indholdsmoderering] og er ligeglade,” siger Turek. “Det behøver de ikke.”
Twitch angiver, at den fangede strømmen ret tidligt – Christchurch-skyderen var i stand til at sende i 17 minutter på Facebook – og siger, at den overvåger for restreams. Men Streamables langsomme reaktion betyder, at da den genindsendte video blev fjernet, havde millioner set klippet, og et link til det blev delt hundredvis af gange på tværs af Facebook og Twitter, ifølge The New York Times. Hopin, virksomheden, der ejer Streamable, reagerede ikke på The Verges anmodning om kommentar.
Selvom det streambare link blev fjernet, er dele og skærmbilleder fra optagelsen let tilgængelige på andre platforme som Facebook, TikTok og Twitter, hvor det er blevet genuploadet. Disse store platforme har så været nødt til at kæmpe for at fjerne og undertrykke de videredelte versioner af videoen.
Dage efter optagelsen forbliver dele af videoen, som brugerne har uploadet til Twitter og TikTok,
Indhold filmet af Buffalo-skytten er blevet fjernet fra YouTube, siger Jack Malon, en talsmand for virksomheden. Malon siger, at platformen også “fremtrædende viser videoer fra autoritative kilder i søgninger og anbefalinger.” Søgeresultater på platformen returnerer nyhedssegmenter og officielle pressekonferencer, hvilket gør det sværere at finde genuploads, der slipper igennem.
Twitter “fjerner videoer og medier relateret til hændelsen,” siger en talsmand for virksomheden, som afviste at blive nævnt på grund af sikkerhedsmæssige bekymringer. TikTok reagerede ikke på flere anmodninger om kommentarer. Men dage efter skyderiet forbliver dele af videoen, som brugerne genuploadede til Twitter og TikTok.
Meta-talsmand Erica Sackin siger, at flere versioner af videoen og den mistænktes screed bliver føjet til en database for at hjælpe Facebook med at opdage og fjerne indhold. Links til eksterne platforme, der hoster indholdet, er permanent blokeret.
Men selv ind i ugen fortsatte klip, der ser ud til at være fra livestreamen, med at cirkulere. Mandag eftermiddag så The Verge et Facebook-opslag med to klip fra den påståede livestream, et der viser angriberen køre ind på parkeringspladsen mens han taler med sig selv, og et andet viser en person, der peger en pistol mod nogen inde i en butik, mens de skreg af skræk. Bevæbningsmanden mumler en undskyldning, før han går videre, og en billedtekst overlejret på klippet antyder, at ofret blev skånet, fordi de var hvide. Sackin bekræftede, at indholdet overtrådte Facebooks politikker, og indlægget blev fjernet kort efter, at The Verge spurgte om det.
Da det er kommet på tværs af nettet, er det originale klip blevet klippet og splejset, remixet, delvist censureret og på anden måde redigeret, og dets udbredte rækkevidde betyder, at det sandsynligvis aldrig vil forsvinde.
At anerkende denne virkelighed og finde ud af, hvordan man kommer videre vil være afgørende, siger Maria Y. Rodriguez, en adjunkt ved University of Buffalo School of Social Work. Rodriguez, som studerer sociale medier og deres virkninger på farvefællesskaber, siger, at mådehold og bevarelse af ytringsfrihed online kræver disciplin, ikke kun omkring Buffalo-indhold, men også i de daglige beslutninger, platforme træffer.
“Platforme har brug for noget støtte med hensyn til regulering, der kan tilbyde nogle parametre,” siger Rodriguez. Standarder omkring, hvordan platforme registrerer voldeligt indhold, og hvilke moderationsværktøjer de bruger til at overflade skadeligt materiale er nødvendige, siger hun.
Vis praksis fra platformes side kan minimere skader på offentligheden, som f.eks. følsomme indholdsfiltre, der giver brugerne mulighed for at se potentielt forstyrrende materiale eller blot at scrolle forbi, siger Rodriguez. Men hadforbrydelser er ikke nye, og lignende angreb vil sandsynligvis ske igen. Mådeholdenhed, hvis det gøres effektivt, kan begrænse, hvor voldeligt materiale rejser sig – men hvad man skal gøre med gerningsmanden er det, der har holdt Rodriguez vågen om natten.
“Hvad gør vi ved ham og andre folk kan lide ham?” hun siger. “Hvad gør vi ved indholdsskaberne?”