< p>Frances Haugen talte i London for det britiske parlament som led i en undersøgelse af udkastet til onlinesikkerhedslov.
Billede: UK Parliament 2021/Annabel Moeller
Sociale medieplatforme, der bruger uigennemsigtige algoritmer til at sprede skadeligt indhold, bør tøjles, ellers kan de udløse et stigende antal voldelige begivenheder, såsom angrebene på den amerikanske Capitol Building, der fandt sted sidste januar, ifølge Facebook-whistleblower Frances Haugen.
Ifølge Haugen er begivenheder som Capitol-optøjerne og andre sociale medier-drevne konflikter en forsmag på, hvad der endnu venter.
“Jeg er ikke i tvivl om, at de begivenheder, vi ser rundt om i verden, ting som Myanmar og Etiopien, det er de indledende kapitler,” sagde Haugen. “Fordi engagement-baseret vurdering gør to ting. Én, den prioriterer og forstærker splittende, polariserende, ekstremt indhold. Og to, den koncentrerer det.”
Haugen talte i London for det britiske parlament som en del af en undersøgelse af udkastet til onlinesikkerhedslov, som blev fremsat af regeringen tidligere på året. Dette lovforslag foreslår at tvinge virksomheder til at beskytte deres brugere mod skadeligt indhold lige fra hævnporno til desinformation, gennem hadefulde ytringer og racistisk misbrug.
Parlamentarikere tog beviser fra Haugen, fordi hun for nylig er kommet i forgrunden, da whistlebloweren bag bombe lækkede interne dokumenter fra Facebook, herunder interne filer, udkast til præsentationer, forskning og personalekommunikation, som hun fik, mens hun arbejdede som den ledende produktchef for Facebooks civile misinformationsteam.
Nu kendt som Facebook-filerne, blev lækagen udgivet af The Wall Street Journal og udforsker en række forskellige emner, herunder brugen af forskellige indholdsmodereringspolitikker for højt profilerede brugere, spredningen af misinformation og Instagrams indvirkning på teenageres mentale sundhed. Afsløringerne er endda blevet en katalysator for en Senat-undersøgelse af Facebooks operationer.
I denne sammenhæng, sagde Haugen, er regeringer nødt til at optrappe og implementere strengere regulering. “Jeg kom frem nu, for nu er det tid til at handle,” sagde Haugen. “Facebooks fejl gør det sværere at handle.”
Haugen hævdede, at den sociale mediegigant “utvivlsomt” gør had værre, især på grund af dens brug af en engagement-baseret rangeringsalgoritme, som skubber indhold, der sandsynligvis vil skabe mere engagement, længere mod toppen af brugernes tidslinjer.
Fordi ekstremt indhold har en tendens til at være mere viralt, kan dette skabe en ekkokammereffekt, hvilket betyder, at brugere kan blive skubbet ned i et kaninhul og ende med at forbruge indhold, der i stigende grad er polariserende og splittende.
For eksempel kan nogen, der leder efter sunde opskrifter, begynde at se indhold relateret til anoreksi; og nogen, der læser højreorienteret indhold, kunne blive skubbet mod ekstreme højre indlæg. Problemet er ikke begrænset til Facebook: lignende påstande blev tidligere fremsat af den tidligere Google-softwareingeniør Guillaume Chaslot mod YouTubes anbefalingsalgoritme.
“Faren ved Facebook er ikke individer, der siger dårlige ting; det handler om forstærkningssystemerne, der uforholdsmæssigt giver folk, der siger ekstreme, polariserende ting, den største megafon i rummet,” sagde Haugen.
Problemet udvides også til betalt annoncering, ifølge whistlebloweren. Med opsplittende annoncer, der er mere tilbøjelige til at skabe engagement, er det meget billigere at køre “vrede” reklamekampagner, hvilket fik Haugen til at sige, at det nuværende system subsidierer had på sociale medieplatforme.
Dette er noget, som Facebook har tilbagevist: I ugen forud for Haugens optræden i det britiske parlament offentliggjorde den sociale mediegigant en rapport, der hævdede, at udbredelsen af hadefulde ytringer er faldet med næsten 50 % på platformen i løbet af de sidste tre kvartaler og nu kun står for 0,05 % af alt set indhold.
En Facebook-talsmand sagde: “I modsætning til hvad der blev diskuteret under høringen, har vi altid haft det kommercielle incitament til at fjerne skadeligt indhold fra vores websteder. Folk vil ikke have at se det, når de bruger vores apps, og annoncører ikke vil have deres annoncer ved siden af. Det er derfor, vi har investeret 13 milliarder dollars og ansat 40.000 mennesker til at udføre ét job: holde folk sikre på vores apps.”
Men Haugen hævder, at Facebook ikke vil selvregulere for at beskytte sine brugere, fordi lavere engagementsrater er i modstrid med virksomhedens forretningsmodel. “Facebook har ikke været villig til at acceptere, at selv små stykker profit bliver ofret for sikkerheden,” sagde hun og faldt i tråd med påstande, hun tidligere fremsatte om, at virksomheden var “moralsk korrupt” og valgte at øge profitten for enhver pris.
Regeringshandling påkrævet
For at undgå eskalering af begivenheder til yderligere voldelige protester vil det derfor kræve regeringshandling. Haugen bifaldt Storbritanniens indsats med at udarbejde lovforslaget om onlinesikkerhed, idet han kaldte de foreslåede love “verdensledende”, når det kommer til regulering af sociale platforme, og fremhævede især behovet for at pålægge virksomheder som Facebook en omsorgspligt for at beskytte brugerne.
“Jeg kan ikke forestille mig, at Mark ikke er opmærksom på, hvad du laver,” sagde Haugen, da han blev spurgt, om lovforslaget muligvis holder Facebooks administrerende direktør Mark Zuckerberg vågen om natten.
Haugen anbefalede, at lovforslaget om onlinesikkerhed skulle omfatte obligatoriske risikovurderinger for engagementsbaserede rangordningssystemer, som ville blive overvåget af eksterne regulatorer i stedet for bestyrelser inden for Facebook; og at bekymringer om betalt annoncering indgår i regningen.
Hun foreslog også, at Facebook skulle stille data til rådighed for forskere uden for virksomheden, for at tillade undersøgelse af potentielle problemer udefra, og anbefalede obligatorisk moderering af Facebook-grupper, når de overstiger et vist antal brugere.
Til sidst behandlede Haugen spørgsmålet om end-to-end-kryptering, som har udløst kontroverser siden offentliggørelsen af lovforslaget. Ytringsfrihedsgrupper har faktisk udtrykt bekymring over, at lovforslaget vil kræve afskaffelse af ende-til-ende-kryptering for at gøre det muligt for sociale medieplatforme at scanne private beskeder og søge efter skadeligt indhold – på bekostning af brugernes privatliv.
“Jeg understøtter adgang til end-to-end-kryptering, og jeg bruger open source-end-to-end-kryptering hver dag,” sagde Haugen. “Mit sociale supportnetværk er i øjeblikket på en open source end-to-end krypteringstjeneste.”
Facebooks planer for end-to-end-kryptering, fortsatte Haugen, er problematiske, fordi produktet ikke er open source, hvilket gør det umuligt at verificere, i hvilken grad brugerne effektivt vil blive beskyttet. Dette kan resultere i, at nogle brugere deler følsom information online, mens de tror, at deres data er krypteret, hævdede hun, mens de faktisk kan være i fare for at blive læst af tredjeparter.
Facebook har på sin side hilst Storbritanniens forsøg på at regulere sociale medieplatforme velkommen. “Selvom vi har regler mod skadeligt indhold og udgiver regelmæssige gennemsigtighedsrapporter, er vi enige om, at vi har brug for regulering for hele branchen, så virksomheder som vores ikke træffer disse beslutninger på egen hånd,” sagde en talsmand for Facebook. “Storbritannien er et af de lande, der fører an, og vi er glade for, at lovforslaget om onlinesikkerhed bevæger sig fremad.”
Relaterede emner:
Regeringens CXO-sikkerhed 