Billede: Facebook
Facebooks integritet VP Guy Rosen har lukket påstandene om, at den AI -teknologi, den bruger til at bekæmpe hadfuld tale, har ringe indflydelse og siger, at det “ikke er sandt”. I stedet hævdede han, at udbredelsen af hadefulde ytringer på Facebook er faldet med næsten 50% i de sidste tre kvartaler.
“Vi ønsker ikke at se had på vores platform, det gør vores brugere eller annoncører heller ikke, og vi er gennemsigtige omkring vores arbejde med at fjerne det,” skrev Rosen i et blogindlæg.
“Hvad disse dokumenter demonstrere, at vores integritetsarbejde er en flerårig rejse. Selvom vi aldrig vil være perfekte, arbejder vores teams løbende på at udvikle vores systemer, identificere problemer og bygge løsninger. “
Rosens indlæg var et svar på en Wall Street Journal -artikel, der rapporterede, baseret på lækkede interne dokumenter, den sociale mediegigants AI -teknologi, der blev skabt for at fjerne stødende indhold som hadfuld tale og voldelige billeder, har haft ringe succes.
Rapporten påpegede, at et team af Facebook -medarbejdere i marts anslog, at AI -systemerne fjernede indlæg, der genererede 3% til 5% af synspunkterne om hadefulde ytringer på platformen og 0,6% af alt indhold, der overtrådte virksomhedens politikker mod vold og tilskyndelse.
Rosen sagde imidlertid, at “fokus kun på fjernelse af indhold er den forkerte måde at se på, hvordan vi bekæmper hadfuld tale”.
“Det er fordi brug af teknologi til at fjerne hadfulde ytringer kun er en måde at imødegå det på. Vi skal være sikre på, at noget er hadfuld tale, før vi fjerner det,” sagde han.
“Hvis noget kan være hadfuld tale, men vi ikke er sikre nok på, at det opfylder baren for fjernelse, kan vores teknologi reducere indholdets distribution eller ikke anbefale grupper, sider eller personer, der regelmæssigt sender indhold, der sandsynligvis vil krænke vores politikker. Vi bruger også teknologi til at markere indhold til mere gennemgang. “
I stedet skitserede han, at Facebook måler sin succes baseret på udbredelsen af de hadfulde ytringer, folk ser på sin platform, og erklærer sine kun fem visninger pr. hver 10.000 på sin platform.
“Udbredelse fortæller os, hvad krænkende indhold folk ser, fordi vi savnede det. Det er, hvordan vi mest objektivt vurderer vores fremskridt, da det giver det mest komplette billede,” sagde han.
Rosen benyttede også lejligheden til at påpege, at WSJ -rapporten “misforstod” dens proaktive registreringsrate, en anden måling, virksomheden angiveligt bruger til at fortælle, hvor god dens teknologi er til at finde stødende indhold, før folk rapporterer det til virksomheden.
“Da vi begyndte at rapportere vores metrics om hadefulde ytringer, blev kun 23,6% af det indhold, vi fjernede, registreret proaktivt af vores systemer. Størstedelen af det, vi fjernede, blev fundet af mennesker. Nu er tallet over 97 %, “Hævdede Rosen.
I sidste måned sagde Facebook, at det havde gjort fremskridt med sin AI, der bruges til at hjælpe med indholdsmoderering, herunder introduktion af sin Reinforcement Integrity Optimizer (RIO), som guider en AI -model til at lære direkte af millioner af nuværende indholdsstykker for at evaluere, hvor godt det klarede sig sit job.
Dette blogindlæg af Rosen er den seneste erklæring, der er udsendt af Facebook, da den forsøger at fjerne voldsomme påstande om dens drift. Tidligere på måneden behandlede administrerende direktør Mark Zuckerberg offentligt beskyldninger om, at den sociale mediegigant prioriterer overskud frem for sikkerhed og velvære og sagde, at det også “bare ikke var sandt”.
“Argumentet om, at vi bevidst skubber indhold, der gør folk, der er vrede for fortjenesten, er dybt ulogiske, “sagde han.
Svaret var, efter at Facebook -whistleblower Frances Haugen frontede det amerikanske senat som led i sin undersøgelse af Facebooks operationer og beskyldte den sociale mediegigant for bevidst at have skjult vitale oplysninger fra offentligheden for fortjeneste. Under sit vidnesbyrd stemplede hun virksomheden som “moralsk konkurs” og kastede “de valg, der træffes inden for Facebook” som “katastrofale for vores børn, vores privatliv og vores demokrati”.
Relateret dækning
Facebook sender et ophør-og-desist-brev, der beder om at fjerne alt, der skal skrottes, Scott Morrison siger, at sociale medieplatforme er udgivere, hvis de ikke er villige til at identificere brugere Facebook mener, at ansvarlighed og investering signalerer, at det tager fortrolighed seriøst. Facebook hylder Instagram for børn og udvider forældrenes tilsyn med teenagere < h3> Relaterede emner:
Sikkerhedssamarbejde CXO Tech Industry Digital Transformation Smart Office 