Medan Facebook, Twitter, Google och andra populära webbtjänstleverantörer är upptagna med att distribuera legioner av människor för att mildra onlinetoxicitet i form av hatprat, mobbning och sexuella/rasmissbruk, två mindre kända företag har samlats i ett nytt forsknings- och utvecklingsprojekt för att försöka lösa dessa problem i live-streaming videoindustrin.
Meet Group, som utvecklar programvara för interaktiva dejtingsajter, och Spectrum Labs, som gör en AI-baserad moderering av ljudinnehåll, meddelade den 27 juli en utvidgning av sitt partnerskap för att inkludera ett betydande FoU-åtagande i röstmoderering som syftar till skyddar användare från onlinetoxicitet i TMGs livestreamingsapplikationer.
Meet Group äger flera mobila sociala nätverkstjänster inklusive MeetMe, hi5, LOVOO, Growlr, Skout och Tagged. Företaget har registrerat miljoner mobilanvändare dagligen och underlättar tiotals miljoner samtal dagligen. Dess mobilappar finns på iOS och Android på flera språk.
Hat och personligt kränkande tal ökar i många kanaler, som sociala nätverksföretag har rapporterat. Röstmoderering är för närvarande en stor utmaning eftersom inspelning av allt innehåll inte är möjligt eller sekretessvänligt i ett kortvarigt live-streaming-sammanhang, säger TMG. Befintliga metoder för AI-röstmoderering är långsamma, tråkiga och kostnadsförbjudande, eftersom de kräver att röstinnehåll transkriberas innan texten AI kan tillämpas.
Inspelning, analys av innehåll vid rätt tidpunkt
Meet Group och Spectrum Labs samarbetar för att spela in innehåll vid rätt tidpunkt och proaktivt och kostnadseffektivt upptäcka toxicitet, förbättra noggrannhet för moderatorer och utöka säkerhetsåtgärder för användare, säger TMG.
“Metoden för att övervaka livestreaming -video idag är tvåfaldig”, säger TMG -vd Geoff Cook till ZDNet. “Den ena är algoritmisk provtagning av strömmen var femte till sjunde sekund, analyserar den och vidtar åtgärder i enlighet därmed. Den andra är rapportsidan. Vi har 500 moderatorer plus som bemannar detta och lägger ögonen på strömmen på mindre än en minut efter att rapporten har tryckts på. Vi vill spela in och transkribera det innehållet, analysera det baserat på vad som händer, indexera det potentiellt i någon slags kategori, vidta åtgärder för att sedan göra den transkriberingen eller inspelningen tillgänglig för moderatorn. < /p>
“Detta FoU -projekt handlar om att vara mer eftertänksam på att fylla i luckorna i den befintliga moderationen.”
Röstspårning börjar spela in från två olika utlösare: Den första händer när man trycker på en rapportknapp; verktyget börjar spela in röstspåret och skickar det automatiskt för analys. Den andra utlösaren börjar röstinspelningen automatiskt baserat på kommentarer i videon. Om det antas att ett problem finns i videon baserat på kommentarerna i chatten kommer livestreamen att rapporteras proaktivt.
Om det anses finnas en innehållskränkning kommer inspelningen, tillsammans med beteendeflaggan och transkriptionen, förutom själva liveströmmen, om den fortfarande pågår, att skickas till en av The Meet Groups 500 + mänskliga moderatorer, som kommer att granska innehållet under företagets innehålls- och uppförandepolicy för att se om en policy överträds.
Live-streaming-användning ökar på sociala nätverk
Sociala, dejting och spelbolag går alltmer in i livestreaming -video för att förbättra samhällsengagemanget, säger Spectrum Labs VD Justin Davis till ZDNet.
“Med det skiftet kommer en växande efterfrågan på effektiv moderering av rösten”, sa Davis. “Med en miljard minuter tillbringad i sin livestreamingsplattform per månad och nästan 200 000 timmars sändning av innehåll per dag, är The Meet Group en fantastisk partner att arbeta med att distribuera Spectrums plattform för giftigenkänning och moderering för att leverera bästa -klassskydd för användarsäkerhet för både deras modereringsteam och konsumenter. “
” Användarsäkerhet är grundläggande för vad vi gör, och effektiv moderering av livestreamande video kräver effektiv moderering av alla aspekter av strömmen, inklusive röst, textchatt och video, säger Cook. “Kombinationen av Spectrums teknik och måttlösningar med våra säkerhetsstandarder och processer skapar vad vi tror är en modell som andra inom live-streaming videoindustrin kan se ut att följa.”
Det utvidgade partnerskapet som tillkännagavs den 27 juli inkluderar även algoritmisk moderering av alla chattar som skickas inom Meet Groups livestreaming-lösning och AI-privatchattmoderering.
Den algoritmiska chattmoderering som kommer att vara tillgänglig för Meet Group-apparna som liksom företagets expanderande lista över vPaaS-partners kommer att granska de nästan 15 miljoner dagliga chattarna i livestreamingsfunktionen för hatprat, sexuella trakasserier och andra uppförandekoder, säger TMG.
Relaterade ämnen:
Säkerhetssamarbete CXO Tech Industry Digital Transformation Smart Office 