I de seneste måneder, sociale medier platforme har været under pres for at gøre mere, når det kommer til hosting indhold, der opfordrer til voldelig ekstremisme og terror propaganda. I et debatindlæg i dag offentliggjort i Financial Times, YouTube har skitseret fire nye trin, som det tager at konfrontere ekstremistisk aktivitet på sin platform.
I dette debatindlæg, Kent Walker, senior vice-president og general counsel af Google, skriver, at YouTube er blevet arbejdet med forskellige regeringer og retshåndhævende myndigheder til at identificere og fjerne dette indhold, og har investeret i systemer, der hjælper med at løfte opgaven. På trods af disse bestræbelser, han erkendte, at der mere var nødt til at ske i branchen, og hurtigt.
Automatiserede systemer, ekstra flaggers, og mere
Den første af de fire trin er at udvide brugen af deres it-systemer for bedre at kunne identificere terror-relaterede videoer, bruger machine learning til at “uddanne nye ‘indhold, kriterier for klassificering” til at hjælpe os mere med hurtigt at identificere og fjerne sådant indhold.”
Selskabet er også at udvide sin pulje af Trusted Flagger-brugere, en gruppe af eksperter med særlige privilegier til at gennemgå markeret indhold, der overtræder sitets retningslinjer for fællesskabet. Walker noterer sig, at virksomheden er næsten en fordobling af størrelsen af programmet “ved at tilsætte 50 ekspert Ngo’ er, at den 63-organisationer, der allerede indgår som en del af programmet”, som Google vil give yderligere tilskud penge. Den udvidede indsats vil give virksomheden mulighed for at trække på specielle grupper for at målrette mod bestemte typer af videoer, som for eksempel selvskadende adfærd og terrorisme.