Meta (tidligere Facebook) CTO Andrew Bosworth advarede medarbejderne om, at skabelse af sikre virtual reality-oplevelser var en vital del af virksomhedens forretningsplan – men også potentielt umulig i stor skala.
I et internt notat set af Financial Times sagde Bosworth tilsyneladende, at han ønskede, at Meta-virtuelle verdener skulle have “næsten Disney-sikkerhedsniveauer”, selvom rum fra tredjepartsudviklere kunne have løsere standarder end direkte Meta-bygget indhold. Chikane eller anden giftig adfærd kan udgøre en “eksistentiel trussel” mod virksomhedens planer for et indbygget fremtidigt internet, hvis det slukkede almindelige forbrugere fra VR.
Samtidig sagde Bosworth, at politiets brugeradfærd “i enhver meningsfuld skala er praktisk talt umulig.” FT-reporter Hannah Murphy tweetede senere, at Bosworth citerede Masnicks Impossibility Theorem: en maksime, opfundet af Techdirt-grundlæggeren Mike Masnick, der siger, at “indholdsmoderering i skala er umuligt at gøre godt.” (Masnicks skrift bemærker, at dette ikke er et argument imod at presse på for bedre mådehold, men store systemer vil “altid ende med at frustrere meget store dele af befolkningen.”)
Virtuelle verdener kunne have “en stærkere bias over for håndhævelse”
Bosworth foreslår tilsyneladende, at Meta kunne moderere rum som sin Horizon Worlds VR-platform ved at bruge en strengere version af dets eksisterende fællesskabsregler, idet han siger, at VR eller metavers-moderering kunne have “en stærkere bias mod håndhævelse langs en form for advarselsspektrum, successivt længere suspensioner, og i sidste ende bortvisning fra flerbrugerrum.”
Selvom det fulde notat ikke er offentligt tilgængeligt, postede Bosworth et blogindlæg, der hentyder til det senere på dagen. Indlægget, med titlen “Keeping people safe in VR and beyond”, refererer til flere af Metas eksisterende VR-modereringsværktøjer. Det inkluderer at lade folk blokere andre brugere i VR, samt et omfattende Horizon-overvågningssystem til overvågning og rapportering af dårlig adfærd. Meta har også givet tilsagn om 50 millioner dollars til forskning i praktiske og etiske spørgsmål omkring sine metaverse planer.
Som FT bemærker, er Metas ældre platforme som Facebook og Instagram blevet kritiseret for alvorlige moderationsfejl, bl.a. langsomme og utilstrækkelige reaktioner på indhold, der fremmede had og tilskyndet til vold. Virksomhedens nylige rebranding tilbyder en potentiel frisk start, men som notatet bemærker, vil VR og virtuelle verdener sandsynligvis stå over for et helt nyt sæt problemer oven i eksisterende problemer.
“Vi ofte have ærlige samtaler internt og eksternt om de udfordringer, vi står over for, de involverede afvejninger og de potentielle resultater af vores arbejde,” skrev Bosworth i blogindlægget. “Der er svære samfundsmæssige og tekniske problemer på spil, og vi kæmper med dem dagligt.”