Twitch poursuit ses efforts pour réduire le harcèlement avec un nouvel outil qui utilise l'apprentissage automatique pour détecter les personnes qui tentent d'échapper aux interdictions. C'est le dernier ajout de l'entreprise pour lutter contre des choses comme les raids haineux, où les discussions des streamers sont envahies par des trolls envoyant des messages haineux.
Le nouvel outil, appelé Suspicious User Detection, peut identifier les utilisateurs comme des personnes « probables » ou « possibles » qui ont échappé aux interdictions de la chaîne d’un streamer. Le modèle d'apprentissage automatique qui alimente l'outil identifie les fraudeurs potentiels en évaluant des éléments tels que leur comportement et les caractéristiques de leur compte et compare ces informations aux comptes qui ont été bannis de la chaîne d'un streamer.
Les messages des fraudeurs « probables » ne seront pas envoyés au chat, mais les streamers et leurs mods peuvent les voir. Les streamers et les mods peuvent choisir de surveiller un fraudeur probable, ce qui ajoute cet utilisateur à une liste de surveillance et place un message à côté du nom d'un utilisateur notant la surveillance (comme indiqué dans le GIF ci-dessous), ou les bannit. Les messages des fraudeurs « possibles » apparaîtront dans le chat, mais les streamers/mods peuvent également choisir de bloquer ces messages du chat.
Twitch dit qu'il activera la détection des utilisateurs suspects par défaut, mais les streamers peuvent modifier ou désactiver l'outil s'ils le souhaitent. Les streamers et les mods peuvent également sélectionner manuellement pour surveiller les utilisateurs dont ils sont suspects.
“Cet outil a été inspiré en grande partie par les commentaires de la communauté sur la nécessité de trouver de meilleurs moyens de lutter contre les fraudeurs”, a déclaré Alison Huffman, directrice des produits pour la santé communautaire chez Twitch, dans un communiqué à The Verge. « Lorsque nous parlions avec les mods de leurs points faibles, nous avons entendu qu'il peut être difficile de distinguer si un utilisateur qui a discuté de quelque chose qui enfreignait les normes de sa chaîne était un harceleur dangereux et répétitif ou simplement un nouveau spectateur qui n'avait pas appris les coutumes encore. En tant que tel, nous avons conçu cet outil pour donner aux mods et aux créateurs plus d'informations sur les fraudeurs potentiels afin qu'ils puissent prendre des décisions plus efficaces et plus éclairées au sein de leur chaîne.”
La détection des utilisateurs suspects semble être la bonne pourrait faire une différence dans le silence des individus haineux, surtout s'ils sont utilisés en tandem avec des contrôles récemment introduits qui permettent à un streamer d'exiger une vérification par téléphone ou par e-mail pour les comptes participant au chat. Mais il reste à voir dans quelle mesure la détection des utilisateurs suspects sera efficace dans la pratique ou si les fraudeurs peuvent trouver des moyens de contourner l'outil.