Meta (tidigare Facebook) CTO Andrew Bosworth varnade anställda för att skapa säkra virtuella verklighetsupplevelser var en viktig del av dess affärsplan – men också potentiellt omöjlig i stor skala.
I ett internt memo som Financial Times såg, sa Bosworth uppenbarligen att han ville att Meta-virtuella världar skulle ha “nästan Disney-säkerhetsnivåer”, även om utrymmen från tredjepartsutvecklare kunde ha lösare standarder än direkt Meta-byggt innehåll. Trakasserier eller annat giftigt beteende kan utgöra ett “existentiellt hot” mot företagets planer för ett förkroppsligat framtida internet om det stängde vanliga konsumenter av VR.
Samtidigt sa Bosworth att polisanvändarbeteende “i någon meningsfull skala är praktiskt taget omöjligt.” FT-reportern Hannah Murphy twittrade senare att Bosworth citerade Masnicks Impossibility Theorem: en maxim, myntad av Techdirts grundare Mike Masnick, som säger att “innehållsmoderering i stor skala är omöjligt att göra bra.” (Masnicks skrift noterar att detta inte är ett argument mot att driva på för bättre moderering, men stora system kommer “alltid att frustrera mycket stora delar av befolkningen.”)
Virtuella världar kan ha “en starkare partiskhet mot verkställighet”
Bosworth föreslår uppenbarligen att Meta skulle kunna moderera utrymmen som dess Horizon Worlds VR-plattform genom att använda en strängare version av sina befintliga gemenskapsregler, och säger att VR eller metaversmoderering kan ha “en starkare bias mot verkställighet längs något slags varningsspektrum, successivt längre avstängningar, och slutligen utvisning från fleranvändarutrymmen.”
Även om hela memot inte är offentligt tillgängligt, postade Bosworth ett blogginlägg som anspelade på det senare under dagen. Inlägget, med titeln “Keeping people safe in VR and beyond”, refererar till flera av Metas befintliga VR-modereringsverktyg. Det inkluderar att låta människor blockera andra användare i VR, samt ett omfattande Horizon-övervakningssystem för att övervaka och rapportera dåligt beteende. Meta har också utlovat 50 miljoner dollar för forskning om praktiska och etiska frågor kring sina metaversa planer.
Som FT noterar har Metas äldre plattformar som Facebook och Instagram kritiserats för allvarliga modereringsfel, inklusive långsamma och otillräckliga svar på innehåll som främjade hat och uppviglade till våld. Företagets nya varumärkesförändring erbjuder en potentiell nystart, men som PM noterar kommer VR och virtuella världar sannolikt att möta en helt ny uppsättning problem utöver befintliga problem.
“Vi ofta ha uppriktiga samtal internt och externt om de utmaningar vi står inför, avvägningarna inblandade och de potentiella resultaten av vårt arbete”, skrev Bosworth i blogginlägget. “Det finns tuffa samhälleliga och tekniska problem på spel, och vi brottas med dem dagligen.”