Et stort ansvar for teknologivirksomheder er at overvåge indhold på deres platforme for materiale om seksuelt misbrug af børn (CSAM), og hvis der findes noget, er de juridisk forpligtet til at rapportere det til National Center for Missing and Udnyttede børn (NCMEC). Mange virksomheder har indholdsmoderatorer på plads, som gennemgår indhold, der er markeret for potentielt at være CSAM, og de bestemmer, om indholdet skal rapporteres til NCMEC.
Facebook har dog en politik, der kan betyde, at den underrapporterer indhold af seksuelt misbrug af børn, ifølge en ny rapport fra The New York Times. Et Facebook-uddannelsesdokument instruerer indholdsmoderatorer til at “tage fejl på en voksens side”, når de ikke kender nogens alder på et billede eller en video, der mistænkes for at være CSAM, hedder det i rapporten.
Politikken blev lavet til Facebook-indholdsmoderatorer, der arbejder hos Accenture og diskuteres i en artikel fra California Law Review fra august:
Interviewpersoner beskrev også en politik kaldet “bumping up”, som hver af dem personligt var uenige i. Politikken gælder, når en indholdsmoderator ikke umiddelbart er i stand til at afgøre, om motivet på et mistænkt CSAM-billede er en mindreårig (“B”) eller en voksen (“C”). I sådanne situationer instrueres indholdsmoderatorer om at antage, at emnet er en voksen, og derved tillade flere billeder at blive urapporteret til NCMEC.
Her er virksomhedens begrundelse for politikken , fra The New York Times:
Antigone Davis, sikkerhedschef for Meta, bekræftede politikken i et interview og sagde, at den stammer fra bekymringer om privatlivets fred for dem, der poster seksuelle billeder af voksne. “Det seksuelle misbrug af børn online er afskyeligt,” sagde fru Davis og understregede, at Meta anvender en flerlags, streng gennemgangsproces, der markerer langt flere billeder end nogen anden teknologivirksomhed. Hun sagde, at konsekvenserne af fejlagtigt at markere seksuelt misbrug af børn kunne være “livsændrende” for brugerne.
Facebook (som nu er under Meta-virksomhedens paraply) og Accenture gjorde det. ikke straks svare på en anmodning om kommentar fra The Verge. Accenture afviste at kommentere til The New York Times.