At den maskinlæringsdrevne innmatingen av YouTube-anbefalinger ofte kan dukke opp resultater av en edgy eller til og med radikaliserende bøyning, er ikke mye av et spørsmål lenger. YouTube selv har presset verktøy som det sier kan gi brukerne mer kontroll over feed og gjennomsiktighet om visse anbefalinger, men det er vanskelig for utenforstående å vite hva slags innvirkning de har. Nå, etter å ha brukt mye av det siste året på å samle inn data fra RegretsReporter-utvidelsen (tilgjengelig for Firefox eller Chrome), har Mozilla Foundation mer informasjon om hva folk ser når algoritmen tar feil valg og har gitt ut en detaljert rapport (pdf).
I september 2020 ble utvidelsen lansert, og tok en tilnærming til å finne “beklagelig” innhold som folk møter via anbefalingsmotoren. Etter å ha mottatt 3 362 rapporter (sammen med data fra personer som installerte utvidelsen, men ikke sendte rapporter), viser trender i dataene faren i YouTubes tilnærming.
YouTube må innrømme at algoritmen deres er utformet på en måte som skader og feilinformerer folk.
Mens stiftelsen sier at det holdt konseptet med en “anger” uklart med vilje, vurderte den at 12,2 prosent av rapporterte videoer brøt YouTubes egne regler for innhold, og bemerket at omtrent ni prosent av dem (nesten 200 totalt) er fjernet fra YouTube – etter å ha opparbeidet seg over 160 millioner visninger. Så langt som hvorfor videoene ble lagt ut i utgangspunktet, er en mulig forklaring at de er populære – Mozilla bemerket at rapporterte videoer i gjennomsnitt var 70 prosent flere visninger per dag enn andre videoer som ble sett av frivillige.
Mozilla senior advokatdirektør Brandy Guerkink sier “YouTube må innrømme at deres algoritme er designet på en måte som skader og feilinformerer folk.” Likevel, spesielt to statistikker hoppet ut til meg fra studien: Mozilla sier “i 43,3 prosent av tilfellene der vi har data om stier en frivillig så før en anger, var anbefalingen fullstendig ikke relatert til de tidligere videoene som den frivillige så på.” Også rapporterte beklagelige videoer var 60 prosent høyere i land der engelsk ikke er hovedspråk. Til tross for den lille utvalgsstørrelsen og mulige utvalgsspenningen til dataene, indikerer det at det er mer å se på steder der folk som først og fremst snakker engelsk ikke engang tar hensyn.
NBC News inkludert en uttalelse fra YouTube angående rapporten som hevdet “bare det siste året har vi lansert over 30 forskjellige endringer for å redusere anbefalingene om skadelig innhold.” De hadde en lignende respons da prosjektet ble lansert i fjor. Reformer foreslått av Mozilla inkluderer gjennomsiktighetsrapporter og muligheten til å velge bort personalisering, men med YouTube som trekker inn over 6 milliarder dollar per kvartal fra reklame, virker det tvilsomt å trekke seg fra profilering.