Afbeelding: Facebook
Facebook-integriteit VP Guy Rosen heeft de beweringen stopgezet dat de AI-technologie die het gebruikt om haatspraak te bestrijden weinig impact heeft, en zegt dat het “niet waar” is. In plaats daarvan beweerde hij dat de prevalentie van haatzaaiende uitlatingen op Facebook de afgelopen drie kwartalen met bijna 50% is afgenomen.
“We willen geen haat zien op ons platform, evenmin als onze gebruikers of adverteerders, en we zijn transparant over ons werk om het te verwijderen”, schreef Rosen in een blogpost.
“Wat deze documenten aantonen is dat ons integriteitswerk een traject van meerdere jaren is. Hoewel we nooit perfect zullen zijn, werken onze teams voortdurend aan de ontwikkeling van onze systemen, het identificeren van problemen en het bouwen van oplossingen.”
De post van Rosen was een reactie op een Wall Street Journal-artikel dat meldde, op basis van gelekte interne documenten, dat de AI-technologie van de socialemediagigant die is ontwikkeld om aanstootgevende inhoud zoals haatzaaiende uitlatingen en gewelddadige afbeeldingen te verwijderen, weinig succes heeft gehad.
Het rapport wees erop dat een team van Facebook-medewerkers in maart schatte dat de AI-systemen berichten verwijderden die 3% tot 5% van de weergaven van haatzaaiende uitlatingen op het platform genereerden, en 0,6% van alle inhoud die het beleid van het bedrijf tegen geweld en opruiing heeft geschonden.
Rosen zei echter dat “alleen focussen op het verwijderen van inhoud de verkeerde manier is om te kijken naar hoe we haatzaaien bestrijden”.
“Dat komt omdat het gebruik van technologie om haatspraak te verwijderen slechts één manier is om het tegen te gaan. We moeten erop kunnen vertrouwen dat iets haatspraak is voordat we het verwijderen,” zei hij.
“Als iets haatdragend zou kunnen zijn, maar we er niet voldoende zeker van zijn dat het voldoet aan de drempel voor verwijdering, kan onze technologie de verspreiding van de inhoud verminderen of zal het geen groepen, pagina's of mensen aanbevelen die regelmatig inhoud plaatsen die waarschijnlijk in strijd is met onze beleid. We gebruiken ook technologie om inhoud te markeren voor meer beoordeling.”
In plaats daarvan schetste hij dat Facebook zijn succes meet op basis van de prevalentie van de haatzaaiende uitlatingen die mensen op zijn platform zien, en verklaarde dat het slechts vijf weergaven per elke 10.000 op zijn platform.
“Prevalentie vertelt ons welke inbreukmakende inhoud mensen zien omdat we het hebben gemist. Op deze manier evalueren we onze voortgang het meest objectief, omdat het het meest complete beeld geeft”, zei hij.
Rosen maakte ook van de gelegenheid gebruik om erop te wijzen dat het WSJ-rapport zijn proactieve detectiepercentage “verkeerd heeft geïnterpreteerd”, een andere maatstaf die het bedrijf zogenaamd gebruikt om te vertellen hoe goed zijn technologie is in het vinden van aanstootgevende inhoud voordat mensen het aan het bedrijf melden.
“Toen we onze statistieken over aanzetten tot haat begonnen te rapporteren, werd slechts 23,6% van de inhoud die we verwijderden proactief gedetecteerd door onze systemen; het grootste deel van wat we verwijderden werd gevonden door mensen. Nu is dat aantal meer dan 97 %,” beweerde Rosen.
Vorige maand zei Facebook dat het verbeteringen heeft aangebracht aan zijn AI die wordt gebruikt om te helpen bij het modereren van inhoud, waaronder de introductie van zijn Reinforcement Integrity Optimizer (RIO), die een AI-model begeleidt om rechtstreeks te leren van miljoenen huidige stukjes inhoud om te evalueren hoe goed het deed zijn werk.
Deze blogpost van Rosen is de laatste verklaring die Facebook heeft uitgegeven in een poging om vernietigende beweringen over zijn activiteiten te ontzenuwen. Eerder deze maand sprak CEO Mark Zuckerberg publiekelijk de beschuldigingen uit dat de socialemediagigant winst boven veiligheid en welzijn stelt, en zei dat ook “gewoon niet waar”.
“Het argument dat we opzettelijk inhoud pushen mensen boos om winst is zeer onlogisch”, zei hij.
De reactie was nadat Facebook-klokkenluider Frances Haugen voor de Amerikaanse Senaat stond als onderdeel van haar onderzoek naar de activiteiten van Facebook, en beschuldigde de socialemediagigant ervan opzettelijk essentiële informatie voor het publiek te verbergen voor winst. Tijdens haar getuigenis bestempelde ze het bedrijf als “moreel bankroet” en noemde “de keuzes die binnen Facebook worden gemaakt” “rampzalig voor onze kinderen, onze privacy en onze democratie”.
Gerelateerde berichtgeving
Gerelateerde berichtgeving
h3>Facebook stuurt een opzeggingsbrief met het verzoek om niet meer te volgen Alles moet worden gesloopt Scott Morrison zegt dat sociale-mediaplatforms uitgevers zijn als ze niet bereid zijn om gebruikers te identificeren. Facebook gelooft dat verantwoording en investeringssignalen dat het privacy serieus neemt Facebook schort Instagram op voor kinderen, breidt ouderlijk toezicht uit voor tieners < h3>Verwante onderwerpen:
h3>Facebook stuurt een opzeggingsbrief met het verzoek om niet meer te volgen Alles moet worden gesloopt Scott Morrison zegt dat sociale-mediaplatforms uitgevers zijn als ze niet bereid zijn om gebruikers te identificeren. Facebook gelooft dat verantwoording en investeringssignalen dat het privacy serieus neemt Facebook schort Instagram op voor kinderen, breidt ouderlijk toezicht uit voor tieners < h3>Verwante onderwerpen:
Beveiliging Samenwerking CXO Tech Industrie Digitale Transformatie Smart Office 