< p>Frances Haugen talade i London inför det brittiska parlamentet som en del av en utredning av utkastet till lagförslag för onlinesäkerhet.
Bild: UK Parliament 2021/Annabel Moeller
Sociala medieplattformar som använder ogenomskinliga algoritmer för att sprida skadligt innehåll bör tyglas, annars kan de utlösa ett växande antal våldsamma händelser som attackerna mot US Capitol Building som inträffade i januari förra året, enligt Facebook-visselblåsaren Frances Haugen.
Enligt Haugen är händelser som Capitol-upploppen och andra sociala medier-drivna konflikter en försmak på vad som ännu inte kommer.
“Jag tvivlar inte på att händelserna vi ser runt om i världen, saker som Myanmar och Etiopien, det är de inledande kapitlen”, sa Haugen. “Eftersom engagemangsbaserad rating gör två saker. En, den prioriterar och förstärker splittrande, polariserande, extremt innehåll. Och två, det koncentrerar det.”
Haugen talade i London inför det brittiska parlamentet som en del av en utredning av utkastet till onlinesäkerhetsproposition som lades fram av regeringen tidigare i år. Detta lagförslag föreslår att man tvingar företag att skydda sina användare från skadligt innehåll, från hämndporr till desinformation, genom hatretorik och rasistiska övergrepp.
Parlamentariker tog bevis från Haugen eftersom hon nyligen har kommit i förgrunden när whistlebloweren bakom bombläckage interna dokument från Facebook, inklusive interna filer, utkast till presentationer, forskning och personalkommunikation, som hon fick när hon arbetade som ledande produktchef för Facebooks civila desinformationsteam.
Nu kända som Facebook-filerna publicerades läckorna av The Wall Street Journal och utforskar en mängd olika ämnen, inklusive användningen av olika policyer för innehållsmoderering för högprofilerade användare, spridningen av desinformation och Instagrams inverkan på tonåringars mentala hälsa. Avslöjandena har till och med blivit en katalysator för en senatsutredning om Facebooks verksamhet.
I det här sammanhanget, sade Haugen, måste regeringar gå upp och införa striktare regler. “Jag kom fram nu för nu är det dags att agera”, sa Haugen. “Facebooks misslyckanden gör det svårare att agera.”
Haugen hävdade att den sociala mediejätten “otvivelaktigt” gör hatet värre, särskilt på grund av dess användning av en engagemangsbaserad rankningsalgoritm, som driver innehåll som sannolikt kommer att skapa mer engagemang längre mot toppen av användarnas tidslinjer.
Eftersom extremt innehåll tenderar att vara mer viralt kan detta skapa en ekokammareffekt, vilket innebär att användare kan tryckas ner i ett kaninhål och sluta med att konsumera innehåll som blir allt mer polariserande och splittrande.
Till exempel kan någon som letar efter hälsosamma recept börja se innehåll relaterat till anorexi; och någon som läser högerorienterat innehåll skulle kunna pressas mot högerextrema inlägg. Problemet är inte begränsat till Facebook: liknande anklagelser har tidigare framförts av ex-Googles programvaruingenjör Guillaume Chaslot mot YouTubes rekommendationsalgoritm.
“Faren med Facebook är inte att individer säger dåliga saker, det handlar om förstärkningssystem som oproportionerligt ger människor som säger extrema, polariserande saker den största megafonen i rummet”, sa Haugen.
Frågan expanderar också till betald reklam, enligt whistleblower. Med splittande annonser mer sannolikt att skapa engagemang är det mycket billigare att köra “arga” reklamkampanjer, vilket fick Haugen att säga att det nuvarande systemet subventionerar hat på sociala medieplattformar.
Detta är något som Facebook har motbevisat: veckan före Haugens framträdande i det brittiska parlamentet publicerade sociala mediejätten en rapport som hävdade att prevalensen av hatretorik har minskat med nästan 50 % på plattformen under de senaste tre kvartalen och nu står för endast 0,05 % av allt innehåll som visats.
En talesperson för Facebook sa: “Tvärtemot vad som diskuterades vid utfrågningen har vi alltid haft kommersiella incitament att ta bort skadligt innehåll från våra webbplatser. Folk vill inte ha att se det när de använder våra appar och annonsörer inte vill ha sina annonser bredvid. Det är därför vi har investerat 13 miljarder dollar och anställt 40 000 personer för att göra ett jobb: hålla människor säkra på våra appar.”
Men Haugen hävdar att Facebook inte kommer att självreglera för att skydda sina användare, eftersom lägre engagemang strider mot företagets affärsmodell. “Facebook har varit ovilliga att acceptera att ens små bitar av vinst offras för säkerheten”, sa hon och föll i linje med påståenden som hon tidigare gjort om att företaget var “moraliskt korrupt” och valde att öka vinsten till varje pris.
Regeringsåtgärder krävs
För att undvika att händelserna eskalerar till ytterligare våldsamma protester kommer det därför att krävas statliga åtgärder. Haugen applåderade Storbritanniens ansträngningar för att utarbeta lagförslaget om onlinesäkerhet, och kallade de föreslagna lagarna “världsledande” när det gäller att reglera sociala plattformar, och särskilt betonade behovet av att ålägga företag som Facebook en omsorgsplikt för att skydda användarna.
“Jag kan inte föreställa mig att Mark inte uppmärksammar vad du gör”, sa Haugen på frågan om lagförslaget kan hålla Facebooks vd Mark Zuckerberg vaken på natten.
Haugen rekommenderade att lagförslaget om onlinesäkerhet skulle inkludera obligatoriska riskbedömningar för engagemangsbaserade rankningssystem, som skulle övervakas av externa tillsynsmyndigheter snarare än styrelser inom Facebook; och att farhågor om betald reklam tas med i räkningen.
Hon föreslog också att Facebook skulle göra data tillgänglig för forskare utanför företaget, för att möjliggöra undersökning av potentiella problem utifrån, och rekommenderade obligatorisk moderering av Facebook-grupper när de överskrider ett visst antal användare.
Slutligen tog Haugen upp frågan om end-to-end-kryptering, som har väckt kontroverser sedan publiceringen av lagförslaget. Yttrandefrihetsgrupper har i själva verket uttryckt oro över att lagförslaget kommer att kräva avskaffande av end-to-end-kryptering, för att göra det möjligt för sociala medieplattformar att skanna privata meddelanden och söka efter skadligt innehåll – på bekostnad av användarnas integritet.
“Jag stöder åtkomst till end-to-end-kryptering och jag använder öppen källkod end-to-end-kryptering varje dag,” sa Haugen. “Mitt sociala supportnätverk är för närvarande på en öppen källkods-end-to-end-krypteringstjänst.”
Facebooks planer för end-to-end-kryptering, fortsatte Haugen, är problematiska eftersom produkten inte är öppen källkod, vilket gör det omöjligt att verifiera i vilken grad användare kommer att skyddas effektivt. Detta kan resultera i att vissa användare delar känslig information online samtidigt som de tror att deras data är krypterad, hävdade hon, när den i själva verket riskerar att bli läst av tredje part.
Facebook har å sin sida välkomnat Storbritanniens försök att reglera sociala medieplattformar. “Medan vi har regler mot skadligt innehåll och publicerar regelbundna transparensrapporter, är vi överens om att vi behöver reglering för hela branschen så att företag som vårt inte fattar dessa beslut på egen hand”, sa en talesperson för Facebook. “Storbritannien är ett av de länder som leder vägen och vi är glada att onlinesäkerhetsförslaget går framåt.”
Relaterade ämnen:
Regeringens CXO-säkerhet 