Att det maskininlärningsdrivna flödet av YouTube-rekommendationer ofta kan visa resultat av en kantig eller till och med radikaliserad böjning är inte mycket av en fråga längre. YouTube själv har drivit verktyg som de säger kan ge användarna mer kontroll över sitt flöde och transparens om vissa rekommendationer, men det är svårt för utomstående att veta vilken typ av påverkan de har. Efter att ha spenderat mycket av det senaste året på att samla in data från RegretsReporter-tillägget (tillgängligt för Firefox eller Chrome) har Mozilla Foundation mer information om vad folk ser när algoritmen gör fel val och har släppt en detaljerad rapport (pdf).
I september 2020 lanserades förlängningen, med ett massmedvetet tillvägagångssätt för att hitta “beklagligt” innehåll som människor stöter på via rekommendationsmotorn. Efter att ha mottagit 3 362 rapporter (tillsammans med data från personer som installerade tillägget men inte skickade rapporter) visar datautvecklingen faran i YouTubes strategi.
YouTube måste erkänna att deras algoritm är utformad på ett sätt som skadar och felinformerar människor.
Medan stiftelsen säger att den höll begreppet ”ånger” vagt medvetet, bedömde den att 12,2 procent av rapporterade videor bryter mot YouTubes egna regler för innehåll och noterade att cirka nio procent av dem (nästan 200 totalt) har tagits bort från YouTube – efter att ha samlat över 160 miljoner visningar. När det gäller varför dessa videor publicerades i första hand är en möjlig förklaring att de är populära – Mozilla noterade att rapporterade videor var i genomsnitt 70 procent fler visningar per dag än andra videor som volontärer såg.
Mozilla Senior Director of Advocacy Brandy Guerkink säger “YouTube måste erkänna att deras algoritm är utformad på ett sätt som skadar och missinformerar människor.” Ändå hoppade särskilt två statistik ut till mig från studien: Mozilla säger “i 43,3 procent av fallen där vi har uppgifter om spår som en volontär såg före en ånger, var rekommendationen helt relaterad till de tidigare videoklippen som volontären såg på.” Andelen rapporterade beklagliga videor var också 60 procent högre i länder där engelska inte är ett primärt språk. Trots den lilla urvalsstorleken och möjliga urvalsförskjutning av data indikerar det att det finns mer att titta på platser där människor som främst talar engelska inte ens uppmärksammar.
NBC News ingår ett uttalande från YouTube om rapporten som hävdade att “bara under det senaste året har vi lanserat över 30 olika ändringar för att minska rekommendationerna om skadligt innehåll.” De fick ett liknande svar när projektet startade förra året. Reformer som föreslås av Mozilla inkluderar transparensrapporter och möjligheten att välja bort personalisering, men med YouTube som drar in mer än 6 miljarder dollar per kvartal från reklam verkar det tveksamt att dra sig bort från profilering.