Demokratiske lovgivere ønsker, at sociale netværk står over for juridisk ansvar, hvis de anbefaler skadeligt indhold til brugerne. Repræsentanter Anna Eshoo (D-CA), Frank Pallone Jr. (D-NJ), Mike Doyle (D-PA) og Jan Schakowsky (D-IL) introducerede “Justice Against Malicious Algorithms Act”, som ville ændre sektion 230's beskyttelse for at udelukke “personlige anbefalinger” for indhold, der bidrager til fysisk eller alvorlig følelsesmæssig skade.
Lovforslaget følger en anbefaling, Facebook -whistleblower Frances Haugen fremsatte før kongressen i sidste uge. Haugen, en tidligere medarbejder, der lækkede omfattende intern Facebook -forskning, opfordrede lovgivere til at slå ned på algoritmer, der promoverer, rangerer eller på anden måde bestiller indhold baseret på brugerengagement. Det gælder for webtjenester med over 5 millioner månedlige besøgende og udelukker visse kategorier af materiale, herunder infrastrukturtjenester som webhosting og systemer, der returnerer søgeresultater.
Regningen gælder ikke for meget små tjenester eller søgerangeringer
For dækkede platforme er lovforslaget målrettet mod § 230 i lov om kommunikation, der forhindrer folk i at sagsøge webtjenester over indhold fra tredjepart som brugerne sender. Den nye undtagelse ville lade disse sager fortsætte, hvis tjenesterne bevidst eller hensynsløst brugte en “personlig algoritme” til at anbefale det pågældende tredjepartsindhold. Det kan omfatte indlæg, grupper, konti og andre oplysninger fra brugeren.
Lovforslaget ville ikke nødvendigvis lade folk stævne over den slags materiale, Haugen kritiserede, som omfatter hadfuld tale og anoreksi-relateret indhold. Meget af dette materiale er lovligt i USA, så platforme behøver ikke et yderligere ansvarsskærm for at være vært for det. (En Pallone -erklæring støttede også websteder til fremme af “ekstremisme” og “desinformation”, som heller ikke nødvendigvis er ulovlige.) Lovforslaget dækker også kun personlige anbefalinger, defineret som sortering af indhold med en algoritme, der “er afhængig af specifikke oplysninger for et individ . ” Virksomheder kunne tilsyneladende stadig bruge storstilet analyse til at anbefale det mest populære generelle indhold.
I sit vidnesbyrd foreslog Haugen, at målet var at tilføje generel juridisk risiko, indtil Facebook og lignende virksomheder stoppede helt og holdent bruge personlige anbefalinger. “Hvis vi reformerede [Sektion] 230 for at gøre Facebook ansvarlig for konsekvenserne af deres forsætlige rangeringbeslutninger, tror jeg, at de ville slippe af med engagement-baseret rangering,” sagde hun.