Mentre Facebook, Twitter, Google e altri famosi fornitori di servizi web sono impegnati a schierare legioni di persone per mitigare la tossicità online sotto forma di incitamento all'odio, bullismo e abuso sessuale/razziale, due aziende meno note si sono unite in un nuovo progetto di ricerca e sviluppo per cercare di risolvere questi problemi nel settore dei video in streaming live.
The Meet Group, che sviluppa software per siti di incontri interattivi, e Spectrum Labs, che realizza una piattaforma di moderazione di contenuti audio basata sull'intelligenza artificiale, il 27 luglio hanno annunciato un'espansione della loro partnership per includere un significativo impegno di ricerca e sviluppo nella moderazione vocale volto a proteggere gli utenti dalla tossicità online nelle applicazioni di streaming live di TMG.
Il gruppo Meet possiede diversi servizi di social network mobili tra cui MeetMe, hi5, LOVOO, Growlr, Skout e Tagged. L'azienda ha registrato milioni di utenti attivi giornalieri mobili e facilita decine di milioni di conversazioni ogni giorno. Le sue app mobili sono disponibili su iOS e Android in più lingue.
L'odio e l'insulto personale sono in aumento in molti canali, come hanno riportato le società di social network. La moderazione vocale è attualmente una grande sfida perché la registrazione di tutti i contenuti non è possibile né rispettosa della privacy in un effimero contesto video in live streaming, ha affermato TMG. I metodi esistenti di moderazione vocale AI sono lenti, noiosi e proibitivi in termini di costi, perché richiedono la trascrizione del contenuto vocale prima che il testo AI possa essere applicato.
Registrazione, analisi dei contenuti al momento giusto
Il Meet Group e Spectrum Labs stanno collaborando per registrare i contenuti al momento giusto e rilevare in modo proattivo ed economico la tossicità, migliorare precisione per i moderatori ed espandere le misure di sicurezza per gli utenti, ha affermato TMG.
“Il metodo di monitoraggio dei video in streaming live oggi è duplice”, ha detto a ZDNet il CEO di TMG Geoff Cook. “Uno è il campionamento algoritmico del flusso ogni cinque o sette secondi, analizzandolo e intraprendendo le azioni di conseguenza. L'altro è il lato del rapporto; abbiamo oltre 500 moderatori che lo gestiscono e mettono gli occhi sullo stream in meno di un minuto dopo aver toccato il pulsante di segnalazione. Vogliamo registrare e trascrivere quel contenuto, analizzarlo in base a ciò che sta accadendo, indicizzarlo potenzialmente in qualche tipo di categoria, agire su di esso, quindi rendere disponibile la trascrizione o la registrazione al moderatore.< /p>
“Questo progetto di ricerca e sviluppo mira a essere più attento a colmare le lacune nella moderazione esistente.”
Il monitoraggio vocale inizierà la registrazione da due diversi trigger: il primo si verifica quando viene toccato un pulsante di segnalazione; lo strumento inizierà a registrare la traccia vocale e la invierà automaticamente per l'analisi. Il secondo trigger inizierà automaticamente la registrazione vocale in base ai commenti nel video. Se si ritiene che esista un problema nel video in base ai commenti nella chat, il live streaming verrà segnalato in modo proattivo.
Se si ritiene che esista una violazione del contenuto, la registrazione, insieme al flag di comportamento e alla trascrizione, oltre allo streaming live stesso, se ancora in corso, verrà inviata a uno dei 500 di The Meet Group + moderatori umani, che esamineranno il contenuto secondo la politica sui contenuti e la condotta dell'azienda per vedere se una politica è stata violata.
Utilizzo del live streaming in aumento sui social network
Le società di social, incontri e giochi si stanno spostando sempre più verso i video in streaming live per migliorare il coinvolgimento della comunità, ha detto a ZDNet il CEO di Spectrum Labs Justin Davis.
“Con questo cambiamento arriva una crescente domanda di moderazione efficace per la voce”, ha detto Davis. “Con un miliardo di minuti spesi nella sua piattaforma di live streaming al mese e quasi 200.000 ore di trasmissione di contenuti al giorno, The Meet Group è un partner fantastico con cui lavorare nell'implementazione della piattaforma di rilevamento e moderazione della voce tossica di Spectrum per offrire il meglio in -classe controlli di sicurezza degli utenti per il loro team di moderazione e per i consumatori.”
“La sicurezza degli utenti è fondamentale per ciò che facciamo e una moderazione efficace dei video in live streaming richiede una moderazione efficace di tutti gli aspetti dello streaming, inclusi voce, chat di testo e video”, ha detto Cook. “La combinazione della tecnologia e delle soluzioni di moderazione di Spectrum con i nostri standard e processi di sicurezza crea quello che riteniamo sia un modello che altri nel settore dei video in live streaming potrebbero cercare di seguire.”
La partnership ampliata annunciata il 27 luglio include anche la moderazione algoritmica di tutte le chat inviate all'interno della soluzione di live streaming di The Meet Group e la moderazione della chat privata AI.
La moderazione algoritmica della chat che sarà disponibile per le app di The Meet Group come Inoltre, l'elenco in espansione della società di partner vPaaS esaminerà i quasi 15 milioni di chat giornaliere all'interno della funzione di live streaming per incitamento all'odio, molestie sessuali e altre violazioni del codice di condotta, ha affermato TMG.
Argomenti correlati:
Collaborazione alla sicurezza CXO Tech Industry Trasformazione digitale Smart Office 