For en uge siden i dag gik en 18-årig mand ind på en folkeskole i Uvalde, Texas, og begik det seneste i vores nations uendelige række af meningsløse mord. Og i kølvandet på denne rædsel – 19 børn døde, to lærere døde, 18 flere sårede – blev opmærksomheden igen rettet mod, hvilken rolle platforme kunne have spillet for at muliggøre volden.
Dette spørgsmål kan føles både påtrængende nødvendig og også på en eller anden måde ved siden af. Nødvendigt, fordi folk (ofte teenagere) konstant bliver anholdt efter at have fremsat trusler på sociale medier, og Uvalde-sagen viser endnu en gang, hvorfor de trusler skal tages mere alvorligt.
Og alligevel er det også klart, at USAs våbenvoldsproblem ikke vil blive løst på niveau med platformspolitik eller håndhævelse. Det kan kun løses ved at gøre det sværere for folk at erhverve og bruge våben, især de angrebsvåben, der figurerer i hver enkelt historie som denne.
Klare skridt, som platforme (og om nødvendigt regulatorer) bør tage næste gang
Men her omkring fokuserer vi på platforme. Og med det i tankerne, lad os tage et kig på, hvad vi har lært om skyttens onlineadfærd i ugen siden skydningen. Det taler om problemer omkring børns sikkerhed og platforme, som jeg har rapporteret om her før – og peger på nogle klare skridt, som platforme (og om nødvendigt regulatorer) bør tage næste gang.
Bortset fra en håndfuld private beskeder, ser Uvalde-skytten ikke ud til at have meget brugt Facebook. Det og Instagram var engang standardplatformene til at lave trusler som disse, men nye platforme vokser i popularitet blandt unge mennesker. Uvalde-skytten kunne lide en kaldet Yubo, skabt af et fransk firma kaldet Twelve App. Det er en “live chilling” app, der ligner Houseparty, den app som Meerkat blev efter at have været med til at lancere livestreaming-dille i USA i 2015.
Den er tilsyneladende også ret populær, med mere end 18 millioner downloads alene i USA, ifølge markedsundersøgelsesfirmaet Sensor Tower.
Ligesom Houseparty lader Yubo brugere sende sig selv live til en lille gruppe venner. Twist er, at Yubo fokuserer på at få nye venner – at finde mennesker med lignende interesser og lade dem chatte. Især unge mennesker. “Yubo er en social live-streaming platform, der hylder den sande essens af at være ung,” siger virksomheden. (Måske af den grund ser det ud til, at det har tiltrukket mere end sin andel af ældre mænd og deres uønskede seksuelle tilnærmelser.)
I dagene efter massakren opdagede journalister, at Yubo ser ud til at have været skyttens primære sociale app. Han brugte det blandt andet til at true med voldtægt – og skoleskyderier. Her er Daniel A. Medina, Isabelle Chapman, Jeff Winter og Casey Tolan på CNN:
Brugere sagde, at de rapporterede Ramos' konto til Yubo – men han var i stand til at blive ved med at bruge appen
Three brugere sagde, at de var vidne til, at Salvador Ramos truede med at begå seksuel vold eller udføre skoleskyderier på Yubo, en app, der bruges af millioner af unge mennesker over hele verden.
Brugerne sagde alle, at de rapporterede Ramos' konto til Yubo over truslerne. Men det så ud til, sagde de, at Ramos var i stand til at opretholde en tilstedeværelse på platformen. CNN gennemgik en direkte besked fra Yubo, hvor Ramos angiveligt sendte en bruger kvitteringen på 2.000 USD for sit online våbenkøb fra en georgisk-baseret skydevåbenproducent.
Hos Washington Post, Silvia Foster-Frau , Cat Zakrzewski, Naomi Nix og Drew Harwell fandt et lignende adfærdsmønster:
En 16-årig dreng i Austin, der sagde, at han så Ramos ofte i Yubo-paneler, fortalte Post, at Ramos ofte kom med aggressive, seksuelle kommentarer til unge kvinder på appen og sendte ham en dødstrussel under et panel i januar.
“Jeg så ham chikanere piger og true dem med seksuelle overgreb, såsom voldtægt og kidnapning,” sagde teenageren. “Det var ikke som en enkelt hændelse. Det var hyppigt.”
I årevis har børn fortalt os, at dette er en regelmæssig begivenhed
Han og hans venner rapporterede Ramos' konto til Yubo for mobning og andre overtrædelser snesevis af gange. Han hørte aldrig tilbage, sagde han, og kontoen forblev aktiv.
Yubo fortalte netværket, at det samarbejder med efterforskningen, men afviste at give nogen detaljer om, hvorfor skytten var i stand til at forblive på platformen på trods af at de er blevet rapporteret for at have fremsat trusler igen og igen.
Det kan virke chokerende, at en person, der gentagne gange fremsætter voldelige trusler, og bliver anmeldt for at gøre det til platformen, ikke kan se nogen konsekvenser. Og alligevel i årevis nu har børn fortalt os, at dette er en regelmæssig begivenhed for dem.
I maj sidste år skrev jeg om en rapport baseret på en undersøgelse af mindreårige af Thorn, en nonprofitorganisation, der bygger teknologi til at forsvare børn mod seksuelt misbrug. Her er to resultater fra den undersøgelse, der er relevante for Uvalde-sagen, fra min klumme om den:
- Børn er mere end dobbelt så tilbøjelige til at bruge platformsblokerings- og rapporteringsværktøjer, end de er til at fortælle forældre og andre omsorgspersoner om, hvad der skete: 83 procent af de 9- til 17-årige, der rapporterede, at de havde en online seksuel interaktion, reagerede med at rapportere, blokere eller dæmpe gerningsmanden, mens kun 37 procent sagde, at de fortalte det til en forælder, betroet voksen eller jævnaldrende.
- Størstedelen af børn, der blokerer eller rapporterer andre brugere siger, at de samme brugere hurtigt finder dem igen online: Mere end halvdelen af børn, der blokerede nogen, sagde, at de blev kontaktet igen af den samme person igen, enten via en ny konto eller en anden platform. Dette gjaldt både for folk, børn kendte i det virkelige liv (54 procent) og folk, de kun havde mødt online (51 procent).
Kort sagt: de fleste børn bruger platformsrapporteringsværktøjer i stedet for at fortælle forældre eller andre omsorgspersoner om trusler online, men i de fleste tilfælde er disse rapporteringsværktøjer ikke effektive. I vores interview sidste år sammenlignede Julie Cordua, Thorns administrerende direktør, platformsrapporteringsværktøjer med brandalarmer, der har fået deres ledninger skåret over. I Uvalde-sagen ser vi, hvad der sker, når disse alarmer ikke er forbundet med effektive håndhævelsesmekanismer.
Kriminelle ser ud til at bevæge sig væk fra bedre forsvarede platforme
Hvis der er plads til optimisme her, er det i det faktum, at kriminelle virkelig ser ud til at bevæge sig væk fra bedre forsvarede platforme til dem, der er mindre etablerede – og i nogle tilfælde har færre politik- og håndhævelsesværktøjer. Sikkert en del af det er simpelthen et bevis på skiftende smag – Discord og Twitch er meget mere populære hos den gennemsnitlige teenager i dag, end Facebook eller måske endda Instagram er. Men en del af det er også, at især Meta, YouTube og Twitter har investeret kraftigt i moderation af indhold, hvilket gør det sværere for dårlige skuespillere at fremsætte trusler ustraffet og unddrage sig forbud. Det taler om værdien af moderation af indhold, for både virksomheder og verden som helhed.
Gennemgå Yubos hjemmeside og historie, og du vil se en virksomhed, der ser ud til at være forpligtet til god forvaltning. Appen har tydeligt offentliggjort retningslinjer for fællesskabet, omend dem der ikke er blevet opdateret siden 2020. Den har en politik om forbud mod unddragelse. Og den bruger ansigtsgenkendelsesteknologi i et forsøg på at forhindre brugere under 13 i at tilmelde sig.
Virksomheden siger også, at den bruger maskinlæring til at scanne live-streams i et forsøg på at finde dårlig opførsel, og scanner tekstbeskeder for at lede efter private oplysninger, som brugere måske er ved at dele ubevidst, såsom telefonnumre. Disse er gode, nyttige og dyre værktøjer, som mange andre platforme ikke tilbyder.
Platforme bør være forpligtet til at fortælle os, hvad de gør med disse rapporter
Samtidig er disse frivillige foranstaltninger i en verden, hvor regulatorer stadig ikke har etableret minimumsstandarder for indholdspolitik, moderation, håndhævelse eller rapportering af, hvad de finder – også kaldet “gennemsigtighed.” Vi ved, at Yubo havde en politik imod stort set alt, hvad Uvalde-skytten gjorde. Vi ved, at børn så, hvad han lavede online, blev bekymrede og brugte appens rapporteringsværktøjer til at forsøge at forhindre det i at ske i fremtiden.
Og, som det normalt er tilfældet i disse situationer ved vi intet om, hvad der derefter skete. Blev rapporterne gennemgået? Af mennesker eller maskiner? Hvad fandt de?
Platforme, der tillader brugere at oprette konti, bør være forpligtet til at lade folk rapportere disse konti for dårlig opførsel. (Vidste du, at du stadig ikke kan rapportere en konto på iMessage, en af verdens største kommunikationstjenester?) Platforme bør også være forpligtet til at fortælle os, hvad de gør med disse rapporter, både individuelt (til den person, der rapporterede det) og i det hele taget (så vi kan forstå dårlig opførsel på platforme generelt).
Det vil desværre ikke gøre noget for at stoppe epidemien af våbenvold i dette land. Men det vil leve op til det løfte, som apps som Yubo giver deres brugere, når de lader dem rapportere dårlig adfærd – at de vil handle, når de modtager dem, og arbejde for at forhindre yderligere skade.
Ingen tvang Yubo til at bygge de systemer, som Thorns Cordua med rette kaldte “brandalarmer.” Men det gjorde det. Det mindste, Yubo og andre platforme kan gøre nu, er at give os nogle beviser på, at disse alarmer faktisk er tilsluttet.