Terwijl Facebook, Twitter, Google en andere populaire webserviceproviders druk bezig zijn met het inzetten van legio mensen om online toxiciteit in de vorm van haatzaaien, pesten en seksueel/raciaal misbruik te verminderen, zijn er twee minder bekende bedrijven zijn samengekomen in een nieuw onderzoeks- en ontwikkelingsproject om deze problemen in de livestreaming-video-industrie op te lossen.
The Meet Group, dat software ontwikkelt voor interactieve datingwebsites, en Spectrum Labs, dat een AI-gebaseerd platform voor het modereren van audiocontent maakt, kondigden op 27 juli een uitbreiding van hun samenwerking aan met een aanzienlijke R&D-inzet voor stemmoderatie gericht op gebruikers beschermen tegen online toxiciteit in de livestreaming-applicaties van TMG.
The Meet Group is eigenaar van verschillende mobiele sociale netwerkdiensten, waaronder MeetMe, hi5, LOVOO, Growlr, Skout en Tagged. Het bedrijf heeft miljoenen mobiele dagelijks actieve gebruikers geregistreerd en faciliteert dagelijks tientallen miljoenen gesprekken. De mobiele apps zijn beschikbaar op iOS en Android in meerdere talen.
Haat en persoonlijk beledigende uitlatingen nemen in veel kanalen toe, zoals sociale netwerkbedrijven hebben gemeld. Stemmoderatie is momenteel een grote uitdaging, omdat het opnemen van alle inhoud niet mogelijk en ook niet privacyvriendelijk is in een kortstondige livestreaming-videocontext, aldus TMG. Bestaande methoden voor AI-stemmoderatie zijn traag, vervelend en onbetaalbaar, omdat ze vereisen dat spraakinhoud wordt getranscribeerd voordat de tekst-AI kan worden toegepast.
Content opnemen en analyseren op het juiste moment
Meet Group en Spectrum Labs werken samen om content op het juiste moment vast te leggen en proactief en kosteneffectief toxiciteit te detecteren, nauwkeurigheid voor moderators en uitbreiding van veiligheidsmaatregelen voor gebruikers, zei TMG.
“De methode om tegenwoordig live streaming video te monitoren is tweeledig”, vertelde TMG-CEO Geoff Cook aan ZDNet. “Een daarvan is algoritmische bemonstering van de stream om de vijf tot zeven seconden, deze analyseren en dienovereenkomstig acties ondernemen. De andere is de rapportkant; we hebben meer dan 500 moderators die dit bemannen en de stream in minder dan een minuut in het oog houden nadat op die rapportknop is getikt. We willen die inhoud opnemen en transcriberen, analyseren op basis van wat er aan de hand is, mogelijk indexeren in een soort categorie, er actie op ondernemen en die transcriptie of opname vervolgens beschikbaar stellen aan de moderator.< /p>
“Dit O&D-project houdt zich bezig met het meer nadenken over het opvullen van de leemten in de bestaande moderatie.”
Stemtracking begint met opnemen vanaf twee verschillende triggers: De eerste gebeurt wanneer op een rapportknop wordt getikt; de tool begint met het opnemen van de voicetrack en verzendt deze automatisch voor analyse. De tweede trigger begint automatisch met spraakopname op basis van opmerkingen in de video. Als wordt aangenomen dat er een probleem is in de video op basis van de opmerkingen in de chat, wordt de livestream proactief gerapporteerd.
Als wordt aangenomen dat er sprake is van een inhoudsschending, wordt de opname, samen met de gedragsvlag en transcriptie, naast de livestream zelf, als deze nog bezig is, naar een van The Meet Group's 500 + menselijke moderators, die de inhoud zullen beoordelen volgens het inhoud- en gedragsbeleid van het bedrijf om te zien of een beleid is geschonden.
Het gebruik van livestreaming op sociale netwerken neemt toe
Sociale, dating- en gamingbedrijven gaan steeds meer over op live streaming video om de betrokkenheid van de gemeenschap te verbeteren, vertelde Justin Davis, CEO van Spectrum Labs, aan ZDNet.
“Met die verschuiving komt er een groeiende vraag naar effectieve moderatie voor stem,” zei Davis. “Met een miljard minuten besteed aan het live-streamingplatform per maand en bijna 200.000 uur aan contentuitzending per dag, is The Meet Group een fantastische partner om mee samen te werken bij het inzetten van Spectrum's platform voor detectie en moderatie van giftige stemmen om de best-in -klasse gebruikersveiligheidscontroles voor zowel hun moderatieteam als consumenten.”
“Gebruikersveiligheid is fundamenteel voor wat we doen, en effectieve moderatie van live-streaming video vereist effectieve moderatie van alle aspecten van de stream, inclusief spraak, tekstchat en video”, zei Cook. “De combinatie van Spectrum's technologie en moderatieoplossingen met onze veiligheidsnormen en -processen creëren wat volgens ons een model is dat anderen in de livestreaming-video-industrie zouden kunnen volgen.”
De uitgebreide samenwerking die op 27 juli is aangekondigd, omvat ook algoritmische moderatie van alle chats die worden verzonden binnen de livestreaming-oplossing van The Meet Group en AI-privéchatmoderatie.
De algoritmische chatmoderatie die beschikbaar zal zijn voor The Meet Group-apps als evenals de groeiende lijst van vPaaS-partners van het bedrijf, zal de bijna 15 miljoen dagelijkse chats binnen de live-streamingfunctie screenen op haatzaaiende uitlatingen, seksuele intimidatie en andere schendingen van de gedragscode, aldus TMG.
Gerelateerde onderwerpen:
Beveiliging Samenwerking CXO Tech Industrie Digitale Transformatie Smart Office 