Twitch sta intensificando i suoi sforzi per ridurre le molestie con un nuovo strumento che utilizza l'apprendimento automatico per rilevare le persone che potrebbero tentare di eludere i divieti. È l'ultima aggiunta dell'azienda per combattere cose come i raid di odio, in cui le chat degli streamer sono invase da troll che inviano messaggi di odio.
Il nuovo strumento, chiamato Suspicious User Detection, può identificare gli utenti come persone “probabili” o “possibili” che hanno eluso i divieti dal canale di uno streamer. Il modello di apprendimento automatico che alimenta lo strumento identifica potenziali evasori valutando cose come il loro comportamento e le caratteristiche del loro account e confronta tali informazioni con gli account che sono stati banditi dal canale di uno streamer.
I messaggi di “probabili” evasori non verranno inviati alla chat, ma gli streamer e i loro mod possono vederli. Gli streamer e i mod possono scegliere di monitorare un probabile evasore di ban, che aggiunge quell'utente a un elenco di monitoraggio e mette un messaggio accanto al nome di un utente che annota il monitoraggio (come mostrato nella GIF di seguito) o vietarlo. I messaggi di “possibili” evasori appariranno nella chat, ma gli streamer/i mod possono scegliere di bloccare anche quei messaggi dalla chat.
Twitch afferma che attiverà il rilevamento di utenti sospetti per impostazione predefinita, ma gli streamer possono modificare o disattivare lo strumento se lo desiderano. Streamer e mod possono anche selezionare manualmente per monitorare gli utenti di cui sono sospetti.
“Questo strumento è stato ispirato in gran parte dal feedback della community sulla necessità di modi migliori per frenare gli evasori del divieto”, ha dichiarato Alison Huffman, direttore del prodotto per la salute della comunità di Twitch, in una dichiarazione a The Verge. “Quando stavamo parlando con i mod dei loro punti deboli, abbiamo sentito che può essere difficile distinguere se un utente che ha chattato con qualcosa che ha violato le norme del loro canale fosse un molestatore dannoso e ripetuto o solo un nuovo spettatore che non aveva imparato quel canale costumi ancora. Pertanto, abbiamo progettato questo strumento per fornire ai mod e ai creatori maggiori informazioni sui potenziali evasori di ban in modo che possano prendere decisioni più efficienti e informate all'interno del loro canale.”
Il rilevamento di utenti sospetti sembra proprio così. potrebbe fare la differenza nel mettere a tacere gli individui che incitano all'odio, soprattutto se utilizzati in combinazione con i controlli introdotti di recente che consentono a uno streamer di richiedere la verifica telefonica o via e-mail per gli account che partecipano alla chat. Ma resta da vedere quanto sarà effettivamente efficace il rilevamento di utenti sospetti nella pratica o se gli evasori del divieto possono trovare il modo per aggirare lo strumento.