Campbell er journalist for ZDNet, der dækker teknologiens indvirkning på tværs af spektret af regering, lovgivning og regulering.
Fuld bio den 3. februar 2022 | Emne: Social Enterprise
Billede: Tom Williams/CQ-Roll Call, Inc via Getty Images
For folk, der bor uden for USA, vil Meta bevidst give mindre hjælp, rapportering af onlinemisbrug og sikkerhed på sin Facebook-platform for at spare på omkostningerne, fortalte Facebook-whistleblower Frances Haugen til Australiens udvalgte udvalg for sociale medier og onlinesikkerhed torsdag morgen.
Haugen vidnede om, at Facebook fjerner “det absolutte minimum”, når det kommer til skadeligt indhold, især når indhold kommer på sprog, der ikke tales fremtrædende i udviklede lande, da der er minimal kritik fra disse underrepræsenterede brugere.
“Den kan konsekvent underinvestere i sikkerhed, og især underinvesterer den virkelig i sikkerhed uden for USA, fordi deres sikkerhedsbudget uforholdsmæssigt bliver brugt på at bane vejen for USA,” sagde Haugen. “Jeg er sikker på, at der pr. indbygger er mindre hjælp, mindre støtte og mindre sikkerhed for australiere, fordi Facebook ved, at det fungerer i mørke. Hvor de ikke skal, undskylder de ikke noget.”< /p>
Ved at give et eksempel på, at Facebook gør det absolutte minimum, hævdede Haugen, at en interventionsskærm for spiseforstyrrelser eller selvskadende indhold, som tidligere blev udråbt af Metas globale sikkerhedschef Antigone Davis, kun blev vist hundredvis af gange om dagen siden sidste år.
I mandags delte Indenrigsministeriet lignende resultater med udvalget, ved at fremhæve Meta som værende “oftest den mest tilbageholdende med at arbejde med regeringen”, når det kommer til at fremme et sikkert onlinemiljø, vedtage en safety-by-design-tilgang og træffe passende proaktive foranstaltninger for at forhindre onlineskader.
Haugen afgav dette vidnesbyrd til udvalget som en del af dens undersøgelse på sociale medier af store teknologivirksomheders praksis for at bremse giftig onlineadfærd. Forespørgslen blev godkendt af den føderale regering i slutningen af sidste år med den hensigt at bygge videre på den foreslåede lovgivning om sociale medier for at “afsløre trolde”.
Meget ligesom Haugens tidligere optrædener for regeringer fra andre jurisdiktioner, fortsatte hun med at markere kerneproblemerne med Facebook-platformen som værende dens algoritmer, der presser ekstremt indhold og dens beslutning om at tillade en højere frekvens af upassende indhold at forblive online for at undgå fejlagtigt at fjerne passende indhold .
Haugen forklarede, at Facebooks algoritmer presser ekstremt indhold, da det er det, der får mest engagement og dermed overskud. For at balancere presset fra ekstremt indhold har platformen også et indholdsovervågningssystem, som den siger har til formål at degradere indhold, der er i strid med Facebooks politikker.
Ifølge Haugen er Facebooks appetit på at lave fejl, når degraderer indhold imidlertid lav, da det ville påvirke dets fortjenstmargener, hvilket betyder, at masser af skadeligt indhold ofte ikke degraderes, eller kun nedgraderes en smule, og fortsætter med at har en fremtrædende plads på nettet.
Da Meta ANZ politikdirektør Mia Garlick dukkede op for udvalget for fjorten dage siden, sagde hun, at Facebook ikke får sine algoritmer til at sænke tærsklen for, hvad der kunne klassificeres som upassende indhold, såsom hadefulde ytringer, som det ønsker at giv brugerne mere kontrol til at bestemme, hvilket indhold der vises på deres nyhedsfeed.
Som svar på et udvalgsspørgsmål, der henviser til Garlicks kommentarer, sagde Haugen, at Meta har været “virkelig god til at omformulere debatter”, som ikke er nyttige til at pålægge ofrene sikkerhedsbyrden.
Hun forklarede, at hvis Facebook ikke havde et forstærkningssystem til at give mest rækkevidde til ekstremt indhold, ville der ikke være behov for at have en samtale om, hvorvidt sociale medieplatforme gør nok for at fjerne skadeligt indhold.
“Som enhver, der kan huske at programmere en videobåndoptager, er det virkelig svært at finde ud af indstillinger på systemer, som du ikke rører så ofte, ikke? At forvente, at den gennemsnitlige person lærer at indstille alle drejeknapperne på sikkerhedssystemer til Facebook, det er ikke et urealistisk og urimeligt spørgsmål,” sagde hun.
Under vidneforklaringen blev Haugen også bedt af udvalgsformanden og det liberale parlamentsmedlem Lucy Wicks om anbefalinger til, hvilke lette reguleringsændringer der kunne håndhæves af regeringen, hvortil hun sagde, at et krav om at store grupper og sider skal have moderatorer og begrænse videresendelsen ville tage lang tid. vej til markant at reducere spredningen af konspirationer og indhold, der tilskynder til mistillid.
I løbet af det seneste år er der opstået en tendens blandt Meta-kritikere til at bruge virksomhedens brug af algoritmer til at male det som værende uagtsomt. Sideløbende med de forskellige regeringsundersøgelser rundt om i verden, der er foretaget af Metas adfærd, har Rohingya-flygtninge for nylig indledt to gruppesøgsmål til en værdi af over 150 milliarder dollars mod Meta for dets rolle i at udløse Rohingya-folkemordet i Myanmar.
I disse retssager har sagsøgerne, ligesom Haugen, anklaget Meta for at handle uagtsomt ved at prioritere brugerengagement og vækst frem for sikkerhed ved at bruge algoritmer til at skubbe ekstremt hadefuldt indhold.
Relateret dækning
Indre anliggender fremhæver Meta som mest tilbageholdende med at stoppe onlinemisbrug Google og Meta på forsvarssiden i den australske efterforskning på sociale medier
Meta sagsøgte for over 150 milliarder USD for sin rolle i Rohingya folkedrab
Kan Meta forhindre dets algoritme i at facilitere et fælles blodbad i Indien?
Flere voldelige begivenheder drevet af sociale medier er bundet til at ske, siger Facebook-whistleblower
Facebook-whistleblower: 'Moralsk bankerot' social gigant bliver nødt til at ske 'hook kids' for at vokse Australien | Samarbejde | CXO | Teknisk industri | Digital transformation | Smart Office