Tumblr er allerede flagging uskyldig innlegg som porno

0
139

Tumblr annonserte tidligere i dag at det vil forby alle seksuelt innhold på plattformen, som starter på den 17 desember. Nå, langvarige brukere er kritisere selskapet ‘ s auto-oppdage algoritmer, noe som synes å være feil flagging noen ganske harmløs bilder som eksplisitt.

Tumblr er å gi brukerne til start dato for forbud senere denne måneden til å anke, men unøyaktigheter forårsaker bekymring for at teppet forbud mot slikt innhold kan feie opp ganske harmløs innlegg og fortsette å drive en kile mellom skapere og Tumblr-plattformen. Algoritmene var opprinnelig en del av Safe Mode, som nå blir erstattet med en full-nettstedet forbud mot seksuelt innhold.

Bilder av dildoer hadde fløyet under algoritmen s radar

Forbudet er ment å omfatte alle eksplisitt seksuelt innhold, og nakenhet, med noen få unntak, for eksempel amming og naken klassiske statuer. Tumblr forklarte sin beslutning om dette i morgen klare vilkår, skriving, “Voksent innhold vil ikke lenger være tillatt her. Selv om vi ikke dømme noen for deres ønske om å legge ut, engasjere seg med, eller se slike ting, det er tid for oss til å endre vårt forhold til det.”

Teknisk, noen illustrasjoner som har seksuelle handlinger, er også forbudt, mens naken illustrasjoner er greit. Men en litany av eksempler å få dampen på Twitter og i andre fora er å fremheve hvordan den underliggende programvaren er i stand til å gjøre alvorlige feil.

En person så en vase og bilder av tights få flagget som eksplisitt. Brukeren bemerket at bilder av dildoer hadde fløyet under algoritmen er radar, imidlertid. En annen artist ‘ s illustrasjon av en heks flytende blant tang og tare ble også feilaktig rapportert. Enda en artist så sine illustrasjoner av folk som kjører rundt og bading få flagget.

For å være rettferdig, disse er alle feil som Tumblr ser ut til å ha forutsett. Som KONSERNSJEF Jeff D ‘ Onofrio sa i et blogginnlegg, “Vi er avhengig av automatiserte verktøy for å identifisere innhold for voksne og mennesker til å trene og holde våre systemer innsjekking. Vi vet at det vil være feil”. Tumblr ansatte post forklarte videre at “datamaskiner er bedre enn mennesker på skalering prosess — og vi trenger dem for det — men de er ikke så god på å gjøre nyansert, kontekstuelle beslutninger.” Selskapet sier det vil være “en prosess som er under utvikling for oss alle, og vi er forpliktet til å få denne retten.”

Alle feilaktig flagges innhold kan bli anket, men det er bare ekstra papirarbeid for mange brukere på Tumblr som ikke innlegget eksplisitt innhold, og er likevel å finne seg selv feilaktig målrettet. For nå er det bare å opprette en måte for Tumblr fans til å lufte om en policy noen er misfornøyd med.