Discords nye politik vil forbyde skadelig lægerådgivning og sigte mod anti-vaxx-grupper

Discord reviderer sine politikker og fællesskabsretningslinjer for at tackle misinformation om sundhed, adfærd uden for platformen og hadefulde ytringer, meddelte virksomheden fredag. Det er den første store politikopdatering for Discord i næsten to år og er designet til at målrette mod grupper eller personer, der deltager i organiseret vold, spreder skadeligt anti-vaccinationsmateriale eller chikanerer andre Discord-brugere med hadefulde ytringer.

Efter to år med en pandemi gør Discord sine politikker mere klare om sundhedsmisinformation. I nye retningslinjer for fællesskabet, som træder i kraft den 28. marts, siger Discord, at brugere “ikke må dele falske eller vildledende oplysninger om Discord, som sandsynligvis vil forårsage fysisk eller samfundsmæssig skade.” Dette omfatter indhold, der kan resultere i skade på fysisk infrastruktur, skade på andre og indhold, der bringer folkesundheden i fare.

Ændringen er klart målrettet mod anti-vaxxere, der poster og promoverer alvorligt vildledende sundhedsoplysninger – men det betyder ikke, at alle anti-vaxxere vil blive fjernet fra platformen.

“Hvis nogen skriver på Discord 'drik fire ounces blegemiddel, og din krop vil blive af med coronavirus', er det handlingsdygtigt,” forklarer Clint Smith, chefjurist hos Discord, i et interview med The Verge. “Medicinsk konsensus understøtter ikke det som en behandling for COVID, og ​​der er stor sandsynlighed for skade for alle, der følger det råd.”

Ikke alt anti-vaccinationsindhold vil forsvinde

Men Smith siger, at hvis nogen skriver om at holde “krystaller mod dit bryst i 5 minutter, og din lungekapacitet vil forbedres,” i forbindelse med pandemien, er det ikke noget, Discord vil gribe ind imod. “Krystaller og krystallers helbredende kraft er ikke understøttet af medicinsk konsensus, men der er også en meget lav risiko for skade på vores brugere, så den udtalelse om krystaller, vi vil ikke gøre noget ved det,” siger Smith.

I beslutningen om, hvornår der skal handles, siger Discord, at det vil afveje konteksten af ​​beskeder, sandsynligheden for direkte skade, en plakats hensigt om at overbevise eller bedrage andre, og om en gruppe eller plakat har en historie med gentagne overtrædelser af Discord-politikker. Discord-brugere vil kunne fortsætte med at rapportere denne type indhold ved at højreklikke på en meddelelse på tjenesten og trykke på rapportknappen.

På samme måde vil Discord også straffe brugere for skadelig adfærd, de udøver uden for platformen. Relevant adfærd omfatter medlemskab af voldelige organisationer, fremsættelse af troværdige trusler om vold mod mennesker, organisationer, begivenheder eller steder og tilhørsforhold til grupper, der seksualiserer børn på nogen måde.

Discord begrænser adfærd uden for platformen til de “højeste skadekategorier” af organiseret vold og seksualisering af mindreårige. “Hvis en Discord-bruger er sigtet for besiddelse af stoffer … eller impliceret i snyd omkring en skoleeksamen, er det ikke den største skadelig adfærd uden for platformen, som vi kommer til at tage i betragtning,” forklarer Smith. “Vi vil fokusere på den adfærd uden for platformen, der har det højeste skadepotentiale for vores brugere og andres Discord-oplevelse.”

Et nyt offentligt server-tag øverst til venstre på Discord-servere. Billede: Discord

Forskning offentliggjort af Institute for Strategic Dialogue sidste år afslørede, at højreekstremistiske grupper er eksploderet på platforme som Discord og Steam. Disse grupper kan organisere vold i den virkelige verden eller deltage i chikane og razziaer på Discord-servere. Discord har lukket disse typer grupper ned i årevis, men de er vedholdende. Nye grupper dukker jævnligt op, og selv sociale protestgrupper kan organisere sig på platforme som Discord eller Facebook og så til sidst forårsage vold i den virkelige verden. Discord kaster datavidenskab og maskinlæringsalgoritmer på problemet, men virksomheden er stærkt afhængig af eksterne eksperter og andre for at rapportere ekstremistisk indhold.

“Dette er et område, hvor vi investerer meget i at opbygge relationer med eksperter og betroede journalister,” forklarer Smith. “Der er mennesker uden for Discord, som virkelig er eksperter i, hvilke grupper der fremmer vold og had, og de kan advare os om de typer grupper, som vi burde forbyde på Discord.”

Smith siger, at virksomheden har rådført sig med akademikere, grupper som Anti-Defamation League og Southern Poverty Law Center og journalister fra betroede forretninger. Discord investerer også i betalte konsulenter med specifik ekspertise, som platformen ikke har på sit eget personale.

Discord tager en decentral tilgang til moderation og adskiller den fra platforme som Facebook. I stedet for proaktivt at scanne for indholdsovertrædelser, er den afhængig af, at individuelle servere modererer sig selv og eskalerer indhold til firmamoderering, når det er nødvendigt. Jeg sammenligner altid Discord med min lokale pub, da den er vært for en lang række grupper. Vi ville ikke forvente, at udlejeren af ​​en pub ville overvåge alle de forskellige grupper af samtaler, men du ville forvente, at de forbyder grupper baseret på rapporter. Discords model betyder, at det er sværere at sprede misinformation på tjenesten, men det er ideelt for grupper at organisere sig privat uden åbenlyst tilsyn og samle sig i tal, som du bare ikke kan gøre offline.

Discord har forsøgt at fjerne dårlige skuespillere i årevis

Discord fremhæver også offentlige servere med et nyt tag i klienten snart, bare for at gøre definitionen mellem private og offentlige servere lidt klarere. Discord forsøger tydeligvis også at skræve over grænsen mellem platformsadministration og privatliv.

“Du kunne forestille dig, at vi vil lave mere maskinlæring ud fra et sikkerhedsperspektiv på samtaler, der finder sted i store offentlige fællesskaber, men det vil vi ikke gøre på private DM'er og private servere,” siger Smith. “Hvis der er en høj forventning om privatliv i en lille gruppe DM, agter vi at honorere denne forventning om privatliv.”

Discord sigter også mod hadefulde ytringer ved at udvide dets beskyttede egenskaber til kaste, kønsidentitet, alder, alvorlig sygdom og mere. Servicevilkårene, privatlivspolitikken og fællesskabsretningslinjerne omfatter også mere almindeligt engelsk end juridisk sprog, hvilket ofte er svært for brugerne at forstå. Begreber som NSFW er også blevet droppet til fordel for aldersbegrænsning for at gøre det nemmere for Discord-brugere i lande, hvor sådanne udtryk ikke bruges i vid udstrækning.

De fleste af disse vigtige ændringer stammer fra fra hvor meget verden har ændret sig i løbet af de sidste par år, og hvordan Discord har udviklet sig til at målrette mod et meget bredere marked. Discord har rejst penge i en ambitiøs indsats for at komme videre end spil, og tjenesten fortsætter med at tiltrække en mangfoldig blanding af fællesskaber som et resultat.

“I 2020 var vi et band af californiere betjener et spilorienteret publikum,” joker Smith. “I 2022 har vi ansatte i hele USA, i Toronto, London og Amsterdam, og vi har et virkeligt globalt og bredt publikum, der rækker langt ud over spil.”