Google forklarer, hvordan det holder brugerskabte anmeldelser på Google Maps fri for svindel og misbrug i et nyt blogindlæg og den tilhørende video. Ligesom mange platforme, der beskæftiger sig med moderation i stor skala, siger Google, at det bruger en blanding af automatiserede maskinlæringssystemer såvel som menneskelige operatører.
Detaljerne kommer midt i en voksende granskning af brugeranmeldelser på websteder som Google Maps og Yelp, hvor virksomheder er blevet ramt af dårlige anmeldelser for at implementere COVID-relaterede sundheds- og sikkerhedsforanstaltninger (inklusive maske og vaccinekrav) ofte uden for deres kontrol. Andre anmeldelser har kritiseret virksomheder for angiveligt at have ført dem til at pådrage sig COVID-19 eller for ikke at overholde de normale åbningstider under en global pandemi.
Tidligere i dag rapporterede Yelp, at det fjernede over 15.500 anmeldelser mellem april og december sidste år for at overtræde dets retningslinjer for COVID-19-indhold, en stigning på 161 procent i forhold til samme periode i 2020. I alt siger Yelp, at det fjernede over 70.200 anmeldelser fordelt på næsten 1.300 sider i 2021, hvor mange stammer fra såkaldte “anmeldelsesbombninger”, hvor der indsendes koordinerede anmeldelser fra brugere, som faktisk ikke har været formynderisk for en virksomhed.
“Vi har brug for både den nuancerede forståelse, som mennesker tilbyder, og omfanget, som maskiner giver”
Google forklarer, at hver anmeldelse, der er postet på Google Maps, kontrolleres af dets maskinlæringssystem, som er blevet oplært i virksomhedens indholdspolitikker for at fjerne misbrug eller vildledende anmeldelser. Dette system er trænet til at kontrollere både indholdet af individuelle anmeldelser, men det vil også lede efter bredere mønstre – som pludselige stigninger i en- eller femstjernede anmeldelser – både fra selve kontoen såvel som andre anmeldelser på virksomheden.
Google siger, at menneskelig moderering kommer i spil for indhold, der er blevet markeret af slutbrugere og virksomheder selv. Krænkende anmeldelser kan fjernes, og i mere alvorlige tilfælde kan brugerkonti suspenderes og retssager forfølges. “Vi har fundet ud af, at vi har brug for både den nuancerede forståelse, som mennesker tilbyder, og den skala, som maskiner giver for at hjælpe os med at moderere bidraget indhold,” skriver Googles produktleder for brugergenereret indhold, Ian Leader.
Det er et interessant kig på de trin, Google tager for at holde Maps-anmeldelser brugbare. Du kan læse mere i hele blogindlægget.