Twitch fortsätter sina ansträngningar för att minska trakasserier med ett nytt verktyg som använder maskininlärning för att upptäcka personer som kanske försöker undvika förbud. Det är företagets senaste tillskott för att bekämpa saker som haträder, där streamers chattar översvämmas av troll som skickar hatiska meddelanden.
Det nya verktyget, kallat Suspicious User Detection, kan identifiera användare som “sannolika” eller “möjliga” personer som har undvikit förbud från en streamers kanal. Maskininlärningsmodellen som driver verktyget identifierar potentiella bedragare genom att utvärdera saker som deras beteende och egenskaper hos deras konto och jämför denna information med konton som har förbjudits från en streamers kanal.
Meddelanden från “sannolika” bedragare kommer inte att skickas till chatten, men streamers och deras moddar kan se dem. Streamers och moddar kan välja att övervaka en trolig förbudsundandragare, som lägger till den användaren till en övervakningslista och lägger ett meddelande bredvid en användares namn som noterar övervakningen (som visas i GIF nedan), eller förbjuda dem. “Möjliga” undandragares meddelanden kommer att visas i chatten, men streamers/moddar kan också välja att blockera dessa meddelanden från chatten.
Twitch säger att det kommer att aktivera upptäckt av misstänkta användare som standard, men streamers kan justera eller stänga av verktyget om de vill. Streamers och moddar kan också manuellt välja för att övervaka användare som de är misstänkta mot.
“Det här verktyget inspirerades till stor del av feedback från samhället kring behovet av bättre sätt att stävja förbudssmitare”, sa Alison Huffman, Twitchs produktchef för samhällshälsa, i ett uttalande till The Verge. “När vi pratade med mods om deras smärtpunkter hörde vi att det kan vara svårt att skilja på om en användare som chattade något som bröt mot kanalens normer var en skadlig, upprepad trakasserare eller bara en nyare tittare som inte hade lärt sig den kanalens tullen ännu. Som sådant har vi utformat det här verktyget för att ge mods och kreatörer mer information om potentiella förbudssmitare så att de kan fatta mer effektiva och informerade beslut inom sin kanal.”
Det verkar som om Misstänkt användarupptäckt kan göra skillnad för att tysta hatiska individer, särskilt om de används tillsammans med nyligen introducerade kontroller som låter en streamer kräva telefon- eller e-postverifiering för konton som deltar i chatten. Men det återstår att se hur effektivt upptäckt av misstänkta användare faktiskt kommer att vara i praktiken eller om förbudssmitare kan hitta sätt att komma runt verktyget.