De fleste diskussioner om online chikane begynde og slutte med Gamergate, men online chikane kampagner var godt i gang i 1990’erne. De har udviklet sig til at omfatte livstruende taktik, herunder doxxing og smækkede. Caroline Sinders, der er research fellow ved den Digitale Harvard Kennedy School og ekspert i machine learning, slutter Nilay Patel og Casey Newton på Vergecast at tale om oprindelsen online chikane, hvordan platforme som Twitter og Facebook kan være bedre designet til at bekæmpe det, og hvad vi som enkeltpersoner kan gøre for at afbøde virkningerne heraf.
Nedenfor er en kort, redigeret udskrift af deres samtale om, hvordan bedre design kan hjælpe indhold moderatorer håndhæve regler og beskytte folk fra online chikane:
Caroline Sinders: Nogle af de redskaber, som mennesker er givet til indhold moderat, fra hvad vi har set og forskellige lækket oplysninger om indhold moderatorer, er forfærdeligt. Hvad de har at arbejde med er virkelig, virkelig ikke stor. Og det er rystende, når man tænker på det fra et design synspunkt, når man tænker på, hvordan beacons i moderne design i Usa vil være software design, og det vil være fra de store platforme, at det indhold moderatorer nødt til at bruge til moderat platforme er virkelig antagonistiske. Uden for indhold, at de er tvunget til at se på, de værktøjer, som de er givet, og den tid, som de er givet til at analysere indhold er næsten… jeg vil argumentere for, som en overtrædelse af menneskerettighederne.
Casey Newton: Wow.
De har under 10 sekunder til at træffe en beslutning. Sommetider, hvad de søger på, er ekstremt voldelige indhold. De er nødt til at se på det hele dagen, og de har særlige kvoter, at de ofte er nødt til at opfylde. Så hvordan kan du opbygge en sammenhæng ud af det? Hvordan kan du opbygge en forbindelse ud af noget som en chikane kampagne, der sker i Steubenville?
Mm-hmm.
Hvordan du opbygger i forbindelse med det? Hvad mennesker ofte har, er som en checkliste for, at de er nødt til at huske. Det er baseret ud politik, der er ikke meget politik omkring definition af chikane. Og de er nødt til at gøre et split-sekund beslutning. Og de har værktøjer, hvor der ikke er nok vist, at dem, for måske at forstå, hvad de kigger på. Så, hvad er alle de løsninger, der er her? De løsninger, der er til måske at redesigne den måde, hvorpå indhold moderatorer er i gang med indhold på platforme. Gøre den oplevelse til det bedre.