YouTube står over for en ny bølge af kritik over det alarmerende antal af aggressiv kommentarer og videoer, som er målrettet mod unge børn.
De seneste bekymringer i gang med en Reddit indlæg, der er indgivet til r/Drama, og en YouTube-video, udsætte et “ormehul til en soft-core pædofili ring på YouTube,” ifølge Matt Watson. Watson, en tidligere YouTube creator, der vendte tilbage med en enkelt video og live stream om emnet, vist, hvordan en søgning efter noget som “bikini, sejt træk,” en undergenre af video, hvor kvinder viser forskellige bikinier, de har købt, kan føre til foruroligende og udnyttende videoer af børn. De videoer som ikke er pornografisk karakter, men den kommentar sektioner er fuld af mennesker, tidsstempling specifikke scener, der sexualize barnet eller børnene i den video. Kommentarer om, hvordan smukke unge piger er også kuld kommentar-sektionen.
Selvom Watson ‘ s video er ved at vinde mainstream opmærksomhed, det er ikke første gang, at YouTube har beskæftiget sig med dette spørgsmål. I 2017, YouTube opdateret sine politikker til at adressere en begivenhed kendt som “ElsaGate,” i, som foruroligende, kønsrelateret indhold for børn blev anbefalet til børn. Samme år, YouTube besluttet at lukke nogle kommentar dele videoer med børn i et forsøg på at blokere for aggressiv adfærd fra pædofile. Så tidligt som 2013, Google har ændret sin søgealgoritme til at forhindre, at udnyttende indhold i at blive vist i søgninger på både Google og YouTube. Men på trods af mange års offentlige ramaskrig, YouTube har stadig ikke fundet en måde til effektivt at håndtere tilsyneladende rovdyr på sin platform.
Kernen af problemet er YouTube ‘ s henstilling algoritme, et system, der er blevet kritiseret i fortiden. Det tog kun to klik for Watson til at vove sig væk fra en video af en kvinde fremvisning af bikinier hun er købt til en video af en ung pige spil. Selvom videoen er uskyldig, kommentarer nedenfor — som omfatter tidsstempler ringer ud visse vinkler i video og aggressiv svar til billeder — bestemt ikke.
“Youtube’ s anbefalede algoritme er lette pædofile’ evne til at forbinde med hinanden.”
“Youtube’ s anbefalede algoritme er lette pædofile’ evne til at forbinde med hinanden, handel kontakt info og link til de faktiske børnepornografi i kommentarerne,” Watson skrev på Reddit. “Jeg kan altid få adgang til det fra vanilje, aldrig-før-har brugt YouTube-konti via uskadelige videoer på mindre end ti minutter, nogle gange mindre end fem klik.”
The Verge har forsøgt at genskabe situationen flere gange, og gennem hver enkelt eksperiment, opdagede, at det tog seks klik eller mindre til at finde videoer med aggressiv kommentarer i kommentar-sektionen. En erklæring fra en YouTube-talsmand har bekræftet, at flere af de videoer, fremhævede i Watson ‘ s video er siden blevet fjernet.
“Ethvert indhold, herunder kommentarer, der er til fare for mindreårige er afskyelig, og vi har en klar politik, der forbyder dette på YouTube,” talsmand sagde. “Vi håndhæve disse politikker aggressivt, indberetning til de relevante myndigheder, at fjerne det fra vores platform og om afslutning af regnskaberne. Vi fortsætter med at investere massivt i teknologi, teams og partnerskaber med velgørende organisationer til at løse dette problem.”
YouTube har prøvet en række håndhævelse taktik, men ingen har forhindret flere skandaler fra overfladebehandling. I November 2017, Johanna Wright, den tidligere vice president for product management på YouTube, og som er udstedt et blog-indlæg annoncere nye måder, virksomheden ville løse problemet. Andre end at fjerne videoer, der er blevet markeret eller offentligt rapporteret, at YouTube ‘ s mest direkte forsøg på at stoppe udbredelsen af disse videoer var til at lukke ned kommentar sektioner.
“Ethvert indhold, herunder kommentarer, der er til fare for mindreårige er afskyelig, og vi har en klar politik, der forbyder dette på YouTube.”
“Bemærkninger af denne art er afskyelig, og vi arbejder med NCMEC at anmelde ulovlig adfærd til retshåndhævelse,” Wright skrev i 2017. “Begynder i denne uge vil vi starte med at tage en endnu mere aggressiv holdning ved at slå alle kommentarer på videoer af mindreårige, hvor vi ser disse typer af kommentarer.”
Mens YouTube hævder, at de fleste af disse videoer nu har kommentarer slået fra, som ikke synes at være tilfældet i praksis. De fleste af de videoer Randen kom på tværs havde kommentarer aktiveret. Mange af de videoer, der vises i Watson ‘ s video også har kommentarer aktiveret. Disse videoer kan deles privat mellem brugerne, og er fuld af tidsstempler eller foruroligende kommentarer. YouTube bruger en kombination af machine learning teknologi og menneskelige vurderinger, herunder dem, der i Tillid til, Flagger-program, til at opdage disse videoer, og fjern dem. Med 450 timers indhold, som uploades hvert minut, og milliarder af brugere logger på hver måned, nogle videoer, der er bundet til at glide igennem.
Selv for Betroede Flaggers, der er stadig forhindringer, der forhindrer hurtig handling. “Content markeret af Trusted Flaggers er ikke automatisk bliver fjernet eller underlagt nogen differentieret politik for behandling — de samme standarder gælder for flag, der er modtaget fra andre brugere,” en kilde, der har bedt om at forblive anonym, fortalte Randen. “Men på grund af deres høje grad af nøjagtighed, flag fra Pålidelige Flaggers er prioriteret til gennemgang. De har ingen indflydelse på, hvad de gør eller ikke ske, at rapporterede indhold.”
En af Watson ‘ s største spørgsmål er, hvorfor disse videoer er tilladt at dukke op på YouTube. De fleste var uploadet af mistænkelige konti. Med den kommentar sektioner fuld af aggressiv kommentarer, det burde ikke have været svært at se, at noget var galt. YouTube ‘ s talsmand afviste at svare, når Den Randen præsenteret på dette spørgsmål. Youtubes retningslinjer for fællesskabet adresse videoer, der kan bruges til at udnytter børn seksuelt, men konstaterer, at “Uploade, kommentere på eller deltage i aktiviteter, der sexualizes mindreårige kan resultere i at indholdet bliver fjernet, og den konto blive opsagt.”
“De har ingen indflydelse på, hvad de gør eller ikke ske, at rapporterede indhold.”
Mens de enkelte videoer er fjernet, er de problematiske brugere er sjældent forbudt, hvilket efterlader dem frie til at uploade flere videoer i fremtiden. Når Watson rapporterede hans egne links til børnepornografi, YouTube har fjernet videoer, men de konti, der postede videoer, der normalt var aktiv. YouTube ikke svare på Randen spørgsmål om, hvordan tillid og sikkerhed team fastlagt hvilke konti, der fik lov til at forblive aktive, og hvilke der ikke var.
YouTube har klare regler omkring indhold, der indeholder børn. En passage på sine retningslinjer og politikker side stater, “Seksuelt indhold med mindreårige, og seksuelt indhold, der udnytter mindreårige”, er strengt forbudt, og tilføjer, at indhold med disse typer af billeder vil blive indberettet til politiet. Men mange af de videoer, der er markeret med Watson ikke overtræder Youtubes retningslinjer, da videoer, der bliver brugt af dårlige skuespillere eller inspirerende foruroligende kommentarer er ikke specifikt behandlet af YouTube ‘ s politikker. Typisk, den eneste handling YouTube har taget, er at lukke ned for kommentarer på ulovlige videoer.
I stigende grad, YouTubers som Watson forsøger at gøre, hvad YouTube er ikke: at finde-og gøre opmærksom på at disse typer af videoer. Mens de fleste skabere enig med Watson ‘ s video, nogle er uenige med den taktik, der anvendes. Eion af populære YouTube-kanal, Nørd Byen, der ofte tilbyder kommentar og lang form diskussioner på et potpourri af YouTube emner, fortalte Randen, at video Watson lavet, er et, at han — eller en række af andre YouTube-skabere kunne have produceret for en lang tid. Eion valgte ikke at for en række årsager, herunder at forsøge at hjælpe med at forklare, at hans publikum balance mellem underholdning og ulovligt indhold på YouTube.
“En YouTuber og deres seere er ikke autoriseret til at analysere børneporno,” Eion sagde. “Er vi ikke lov til at hente det, er vi ikke lov til at se det, vi er ikke bemyndiget til at bestemme, hvilke love bliver brudt, og hvad man skal gøre ved det. Det er ikke vores opgave. Du er nødt til at overlade til fagfolk. Hvis du har faktisk fundet børneporno, du ikke har brug for at skabe opmærksomhed om det. Du har brug for at rapportere det.”
“Denne fare er overalt på internettet og volumen er meget stor.”
Det er den samme grund, som andre kunstnere — heriblandt Daniel “Keemstar” Keem, der er vært for den populære DramaAlert vis — har holdt sig væk fra at dække historien. Han tweeted, at selv om han var enig med Watson ‘ s udtalelser om den foruroligende indhold på webstedet, han var uenig med den måde, Watson skulle om spørgsmålet.
“YouTube er dedikeret til at fjerne barnet rovdyr fra stedet,” Keem tweeted. “De har forbudt millioner af konti, handicappede kommentar afsnittene og fjernet videoer. Denne fare er overalt på internettet og volumen er meget stor. Tro mig YouTube er ikke at ignorere dette problem.”
YouTube har forsøgt at bekæmpe seksuelt misbrug af børn billedsprog i fortiden, ved at samarbejde tæt sammen med myndigheder og eksperter som NCMEC og Internet Watch Foundation (IWF). Disse organisationer giver YouTube tillid og sikkerhed team med digitale fingeraftryk af reference filer med kendte seksuelt misbrug af indholdet. Holdet bruger derefter hashes til at opdage kopier af kendte ulovlige indhold, og fjerne den fra YouTube. Det selskab, der også rapporterer, at alle seksuelt misbrug af billeder og ulovlige kommentarer, herunder meddelelser, til ordentlig håndhævelse af loven.
Udnyttelse videoer udgør kun en brøkdel af en procent af det indhold, der overtræder Youtubes retningslinjer, men platform ser dette område som en lav-volumen, høj-risiko område. Tillid og sikkerhed team har sagt, at det er fast besluttet på at bekæmpe problemet ved at udvikle nye værktøjer og strategier — selv når disse foranstaltninger, der nogle gange gå for langt. Senest har en række af Pokémon GÅ og Club Penguin YouTube-kanaler angiveligt blev ramt af uretmæssige opsigelser på grund af udtrykket “CP” bliver brugt i titlen, som YouTube ‘ s machine learning værktøjer, der kan læses som “børnepornografi.”
De fleste skabere er klar over, at YouTube har et problem med denne type af indhold — men de er også overbeviste om, at YouTube er, der arbejder med spørgsmålet. Dette er ikke blot et problem for den platform, men en for internettet som helhed, ifølge skaberne, som Eion.
“Jeg tror, det viser, at folk har en begrænset forståelse af, hvordan søgemaskiner bør arbejde,” Eion sagde. “Du kan finde noget på Google ved at skrive søg. Du vil få vist relevant indhold til noget, du kan skrive i. Nu, hvis du finder noget du gør det, og du tror, retshåndhævelse behov for at vide om det, og derefter rapportere det.”
“Vi er ikke retshåndhævelse. Jeg er glad for, at dette problem er ved at blive talt om, men rapportere det. Bare anmelde det.”