Twitch setzt seine Bemühungen zur Reduzierung von Belästigungen mit einem neuen Tool fort, das mithilfe von maschinellem Lernen Personen erkennt, die möglicherweise versuchen, Verbote zu umgehen. Es ist die neueste Ergänzung des Unternehmens zur Bekämpfung von Hassüberfällen, bei denen die Chats von Streamern von Trollen überrannt werden, die hasserfüllte Nachrichten senden.
Das neue Tool namens Suspicious User Detection kann Benutzer als „wahrscheinliche“ oder „mögliche“ Personen identifizieren, die Sperren von einem Streamer-Kanal umgangen haben. Das Modell des maschinellen Lernens, das dem Tool zugrunde liegt, identifiziert potenzielle Betrüger, indem es Dinge wie ihr Verhalten und ihre Eigenschaften bezüglich ihres Kontos auswertet und diese Informationen mit Konten vergleicht, die für den Kanal eines Streamers gesperrt wurden.
Nachrichten von „wahrscheinlichen“ Betrügern werden nicht an den Chat gesendet, aber Streamer und ihre Mods können sie sehen. Streamer und Mods können wählen, ob sie einen wahrscheinlichen Ban-Umgeher überwachen möchten, der diesen Benutzer zu einer Überwachungsliste hinzufügt und eine Nachricht neben den Namen eines Benutzers setzt, die die Überwachung vermerkt (wie im GIF unten gezeigt), oder sie sperren. “Mögliche” Nachrichten von Ausweichlern werden im Chat angezeigt, aber Streamer/Mods können sich dafür entscheiden, diese Nachrichten auch für den Chat zu blockieren.
Twitch sagt, dass die Erkennung verdächtiger Benutzer standardmäßig aktiviert wird, aber Streamer können das Tool optimieren oder deaktivieren, wenn sie möchten. Streamer und Mods können auch manuell auswählen, um Benutzer zu überwachen, denen sie verdächtig sind.
„Dieses Tool wurde zum großen Teil durch das Feedback der Community inspiriert, um bessere Möglichkeiten zur Eindämmung von Verbotssündern zu finden“, sagte Alison Huffman, Director of Product for Community Health bei Twitch, in einer Erklärung gegenüber The Verge. “Als wir mit Mods über ihre Schwachstellen sprachen, hörten wir, dass es schwer zu unterscheiden sein kann, ob ein Benutzer, der etwas gechattet hat, das gegen die Normen seines Kanals verstößt, ein schädlicher, wiederholter Belästiger war oder nur ein neuerer Zuschauer, der die Kanalregeln nicht kennengelernt hat.” Zoll noch. Daher haben wir dieses Tool entwickelt, um Mods und Creatorn mehr Informationen über potenzielle Ban-Umgeher zu geben, damit sie effizientere und fundiertere Entscheidungen innerhalb ihres Kanals treffen können.“
Die Erkennung verdächtiger Benutzer scheint so zu sein könnte einen Unterschied machen, wenn es darum geht, hasserfüllte Personen zum Schweigen zu bringen, insbesondere wenn sie zusammen mit kürzlich eingeführten Kontrollen verwendet werden, die es einem Streamer ermöglichen, eine Telefon- oder E-Mail-Bestätigung für Konten, die am Chat teilnehmen, zu verlangen. Es bleibt jedoch abzuwarten, wie effektiv die Erkennung verdächtiger Benutzer in der Praxis tatsächlich sein wird oder ob Verbotsverweigerer Wege finden, das Tool zu umgehen.