Mens Facebook, Twitter, Google og andre populære webtjenesteudbydere har travlt med at udbrede legioner af mennesker for at afbøde onlinetoksicitet i form af hadefuld tale, mobning og seksuelt/racemisbrug, to mindre kendte virksomheder er kommet sammen i et nyt forsknings- og udviklingsprojekt for at prøve at løse disse problemer i live-streaming videoindustrien.
Meet Group, der udvikler software til interaktive datingwebsteder, og Spectrum Labs, der laver en AI-baseret lydindholdsmoderationsplatform, annoncerede den 27. juli en udvidelse af deres partnerskab til at omfatte en betydelig F & U-forpligtelse til stemmemoderering rettet mod beskyttelse af brugere mod onlinetoksicitet i TMGs live-streaming applikationer.
Meet -gruppen ejer flere mobile sociale netværkstjenester, herunder MeetMe, hi5, LOVOO, Growlr, Skout og Tagged. Virksomheden har registreret millioner af mobile aktive brugere hver dag og letter titusinder af samtaler dagligt. Dens mobilapps er tilgængelige på iOS og Android på flere sprog.
Hat og personligt voldelig tale stiger i mange kanaler, som virksomheder i sociale netværk har rapporteret. Stemmemoderering er i øjeblikket en stor udfordring, fordi optagelse af alt indhold ikke er muligt eller privatlivsvenligt i en kortvarig live-streaming video-kontekst, sagde TMG. Eksisterende metoder til AI-stemmemoderering er langsomme, kedelige og omkostnings-uoverkommelige, fordi de kræver, at stemmeindhold transkriberes, før teksten AI kan anvendes.
Optagelse, analyse af indhold på det rigtige tidspunkt
Meet Group og Spectrum Labs samarbejder om at registrere indhold på det rigtige tidspunkt og proaktivt og omkostningseffektivt opdage toksicitet, forbedre nøjagtighed for moderatorer og udvide sikkerhedsforanstaltninger for brugerne, sagde TMG.
“Metoden til overvågning af livestreaming af video i dag er todelt,” siger TMG CEO, Geoff Cook, til ZDNet. “Den ene er algoritmisk prøveudtagning af strømmen hvert femte til syvende sekund, analyserer den og træffer handlinger i overensstemmelse hermed. Den anden er rapportsiden. Vi har mere end 500 moderatorer, der bemander dette og sætter øjnene på strømmen på mindre end et minut efter at der er tappet på denne rapportknap. Vi ønsker at optage og transskribe indholdet, analysere det ud fra hvad der foregår, indeksere det potentielt i en slags kategori, tage skridt til det og derefter gøre transskriptionen eller optagelsen tilgængelig for moderatoren.
“Dette F & U-projekt handler om at være mere tankevækkende med at udfylde hullerne i den nuværende moderering.”
Stemmesporing begynder at optage fra to forskellige udløsere: Den første sker, når der trykkes på en rapportknap; værktøjet begynder at optage stemmesporet og sender det automatisk til analyse. Den anden trigger starter stemmeoptagelsen automatisk baseret på kommentarer i videoen. Hvis der antages at eksistere et problem i videoen baseret på kommentarerne i chatten, rapporteres live-stream proaktivt.
Hvis det menes, at der findes en indholdsovertrædelse, vil optagelsen sammen med adfærdsflag og transkription ud over selve livestreamen, hvis den stadig er i gang, blive sendt til en af The Meet Groups 500 + menneskelige moderatorer, som vil gennemgå indholdet under virksomhedens politik for indhold og adfærd for at se, om en politik er overtrådt.
Brug af live-streaming, der øges på sociale netværk
Sociale, dating- og spilvirksomheder bevæger sig i stigende grad til live streaming video for at forbedre samfundsengagementet, sagde Spectrum Labs CEO Justin Davis til ZDNet.
”Med dette skift kommer et voksende krav om effektiv moderering af stemmen,” sagde Davis. “Med en milliard minutter tilbragt i sin live-streaming-platform om måneden og næsten 200.000 timers indhold, der sendes om dagen, er The Meet Group en fantastisk partner, som man kan arbejde sammen med at implementere Spectrums platform for giftig stemmedetektion og moderering for at levere bedst mulig -klassers sikkerhedskontroller for både deres modereringsteam og forbrugere. “
” Brugersikkerhed er grundlæggende for, hvad vi gør, og effektiv moderering af live-streaming-video kræver effektiv moderering af alle aspekter af strømmen, herunder tale, tekstchat og video, ”sagde Cook. “Kombinationen af Spectrums teknologi og moderationsløsninger med vores sikkerhedsstandarder og processer skaber, hvad vi mener er en model, som andre i live-streaming videoindustrien kan se ud til at følge.”
Det udvidede partnerskab, der blev annonceret 27. juli, inkluderer også algoritmisk moderering af alle chats sendt inden for Meet Groups live-streaming-løsning og AI-privatchat-moderering.
Den algoritmiske chatmoderation, der vil være tilgængelig for The Meet Group-apps som såvel som virksomhedens ekspanderende liste over vPaaS-partnere vil gennemgå de næsten 15 millioner daglige chats inden for live-streaming-funktionen for hadefuld tale, seksuel chikane og andre overtrædelser af adfærdskodeksen, sagde TMG.
Relaterede emner:
Sikkerhedssamarbejde CXO Tech Industry Digital Transformation Smart Office 