Während Facebook, Twitter, Google und andere beliebte Webdienstanbieter damit beschäftigt sind, Legionen von Menschen einzusetzen, um Online-Toxizität in Form von Hassreden, Mobbing und sexuellem/rassistischem Missbrauch zu mindern, zwei weniger bekannte Unternehmen haben sich in einem neuen Forschungs- und Entwicklungsprojekt zusammengeschlossen, um diese Probleme in der Live-Streaming-Videobranche zu lösen.
Die Meet Group, die Software für interaktive Dating-Websites entwickelt, und Spectrum Labs, die eine KI-basierte Audio-Content-Moderationsplattform herstellt, gaben am 27. Juli eine Erweiterung ihrer Partnerschaft bekannt, um ein erhebliches F&E-Engagement in die Sprachmoderation aufzunehmen, das darauf abzielt Schutz der Benutzer vor Online-Toxizität in den Live-Streaming-Anwendungen von TMG.
Die Meet Group besitzt mehrere mobile soziale Netzwerkdienste, darunter MeetMe, hi5, LOVOO, Growlr, Skout und Tagged. Das Unternehmen hat Millionen mobiler täglich aktiver Benutzer registriert und ermöglicht täglich Dutzende von Millionen von Gesprächen. Die mobilen Apps sind für iOS und Android in mehreren Sprachen verfügbar.
Hass und persönlich beleidigende Äußerungen nehmen in vielen Kanälen zu, wie Social-Networking-Unternehmen berichtet haben. Die Sprachmoderation ist derzeit eine große Herausforderung, da die Aufzeichnung aller Inhalte in einem kurzlebigen Live-Streaming-Videokontext weder möglich noch datenschutzfreundlich ist, sagte TMG. Bestehende Methoden der KI-Sprachmoderation sind langsam, mühsam und kostenintensiv, da Sprachinhalte transkribiert werden müssen, bevor die Text-KI angewendet werden kann.
Aufzeichnen und Analysieren von Inhalten zum richtigen Zeitpunkt
Die Meet Group und Spectrum Labs arbeiten zusammen, um Inhalte zum richtigen Zeitpunkt aufzuzeichnen und proaktiv und kostengünstig Toxizität zu erkennen und zu verbessern Genauigkeit für Moderatoren und erweiterte Sicherheitsmaßnahmen für Benutzer, sagte TMG.
“Die Methode zur Überwachung von Live-Streaming-Videos ist heute zweifach”, sagte TMG-CEO Geoff Cook gegenüber ZDNet. „Die eine ist die algorithmische Abtastung des Streams alle fünf bis sieben Sekunden, die Analyse und das Ergreifen entsprechender Maßnahmen. Die andere ist die Berichtsseite; wir haben mehr als 500 Moderatoren, die dies besetzen und den Stream in weniger als einer Minute im Auge behalten.“ Wir möchten diesen Inhalt aufzeichnen und transkribieren, ihn basierend auf dem, was vor sich geht, analysieren, ihn möglicherweise in eine Art von Kategorie indizieren, Maßnahmen ergreifen und diese Transkription oder Aufzeichnung dann dem Moderator zur Verfügung stellen.< /p>
“Bei diesem F&E-Projekt geht es darum, die Lücken in der bestehenden Moderation besser zu füllen.”
Die Sprachverfolgung beginnt mit der Aufnahme von zwei verschiedenen Auslösern: Der erste geschieht, wenn eine Berichtsschaltfläche angetippt wird; das Tool beginnt mit der Aufnahme der Sprachspur und sendet sie automatisch zur Analyse. Der zweite Auslöser beginnt automatisch mit der Sprachaufnahme basierend auf den Kommentaren im Video. Wenn aufgrund der Kommentare im Chat ein Problem im Video vermutet wird, wird der Livestream proaktiv gemeldet.
Wenn angenommen wird, dass ein Inhaltsverstoß vorliegt, wird die Aufzeichnung zusammen mit der Verhaltenskennzeichnung und der Transkription zusätzlich zum Livestream selbst, falls noch im Gange, an eine der 500 . der Meet Group gesendet + menschliche Moderatoren, die den Inhalt gemäß der Inhalts- und Verhaltensrichtlinie des Unternehmens überprüfen, um festzustellen, ob eine Richtlinie verletzt wurde.
Live-Streaming-Nutzung in sozialen Netzwerken steigt
Social-, Dating- und Gaming-Unternehmen setzen zunehmend auf Live-Streaming-Videos, um das Engagement der Community zu verbessern, sagte Justin Davis, CEO von Spectrum Labs, gegenüber ZDNet.
“Mit dieser Verschiebung kommt eine wachsende Nachfrage nach effektiver Moderation für die Stimme”, sagte Davis. “Mit einer Milliarde Minuten, die monatlich auf seiner Live-Streaming-Plattform verbracht werden, und fast 200.000 Stunden Inhaltsübertragung pro Tag ist The Meet Group ein fantastischer Partner, mit dem man bei der Bereitstellung der toxischen Spracherkennungs- und Moderationsplattform von Spectrum zusammenarbeiten kann, um Best-in zu liefern -Klasse Benutzersicherheitskontrollen für ihr Moderationsteam und die Verbraucher gleichermaßen.”
“Die Benutzersicherheit ist von grundlegender Bedeutung für unsere Arbeit und eine effektive Moderation von Live-Streaming-Videos erfordert eine effektive Moderation aller Aspekte des Streams, einschließlich Sprache, Text-Chat und Video”, sagte Cook. “Die Kombination der Technologie- und Moderationslösungen von Spectrum mit unseren Sicherheitsstandards und -prozessen schafft ein Modell, das unserer Meinung nach andere in der Live-Streaming-Videobranche verfolgen könnten.”
Die am 27. Juli angekündigte erweiterte Partnerschaft umfasst auch die algorithmische Moderation aller Chats, die innerhalb der Live-Streaming-Lösung von The Meet Group gesendet werden, und die KI-Moderation privater Chats.
Die algorithmische Chat-Moderation wird für die The Meet Group-Apps als . verfügbar sein sowie die wachsende Liste der vPaaS-Partner des Unternehmens werden die fast 15 Millionen täglichen Chats innerhalb der Live-Streaming-Funktion auf Hassreden, sexuelle Belästigung und andere Verstöße gegen den Verhaltenskodex überprüfen, sagte TMG.
Verwandte Themen:
Security Collaboration CXO Tech Industry Digital Transformation Smart Office 