Twitch fremmer sine bestræbelser på at reducere chikane med et nyt værktøj, der bruger maskinlæring til at opdage folk, der måske forsøger at unddrage sig forbud. Det er virksomhedens seneste tilføjelse til at bekæmpe ting som had-raids, hvor streamers chats bliver overrendt med trolde, der sender hadefulde beskeder.
Det nye værktøj, kaldet Suspicious User Detection, kan identificere brugere som “sandsynlige” eller “mulige” personer, der har unddraget sig forbud fra en streamers kanal. Maskinlæringsmodellen, der driver værktøjet, identificerer potentielle unddragere ved at evaluere ting såsom deres adfærd og karakteristika ved deres konto og sammenligner disse oplysninger med konti, der er blevet forbudt fra en streamers kanal.
Beskeder fra “sandsynlige” unddragere vil ikke blive sendt til chat, men streamere og deres mods kan se dem. Streamere og mods kan vælge at overvåge en sandsynlig forbudunddrager, som føjer denne bruger til en overvågningsliste og sætter en besked ved siden af en brugers navn, der noterer overvågningen (som vist i GIF'en nedenfor), eller forbyder dem. “Mulige” unddrageres beskeder vises i chatten, men streamere/mods kan også vælge at få disse beskeder blokeret fra chatten.
Twitch siger, at det vil slå mistænkelig brugerregistrering til som standard, men streamere kan justere eller slukke for værktøjet, hvis de vil. Streamere og mods kan også manuelt vælge at overvåge brugere, som de er mistænksomme over.
“Dette værktøj er i høj grad inspireret af feedback fra lokalsamfundet omkring behovet for bedre måder at dæmme op for forbuds-unddragere,” sagde Alison Huffman, Twitchs direktør for produkt for samfundssundhed, i en erklæring til The Verge. “Da vi talte med mods om deres smertepunkter, hørte vi, at det kan være svært at skelne, om en bruger, der chattede noget, der overtrådte deres kanals normer, var en skadelig, gentagen chikaner eller bare en nyere seer, der ikke havde lært den kanals told endnu. Som sådan har vi designet dette værktøj til at give mods og skabere mere information om potentielle forbuds-unddragere, så de kunne træffe mere effektive og informerede beslutninger på deres kanal.”
Det ser ud til, at det er mistænkelig brugerregistrering. kunne gøre en forskel i at dæmpe hadefulde individer, især hvis de bruges sammen med nyligt introducerede kontroller, der lader en streamer kræve telefon- eller e-mailbekræftelse for konti, der deltager i chat. Men det er stadig at se, hvor effektiv detektion af mistænkelige brugere faktisk vil være i praksis, eller om forbuds-unddragere kan finde måder at komme uden om værktøjet.