Discord heeft een bedrijf gekocht dat werkt aan AI-tools om online intimidatie op te sporen. Het bedrijf, Sentropy, controleert online netwerken op misbruik en intimidatie en biedt gebruikers vervolgens een manier om problematische mensen te blokkeren en berichten uit te filteren die ze niet willen zien. Het eerste product, Sentropy Protect, was aanvankelijk gericht op het helpen van gebruikers bij het opschonen van hun Twitter-feeds.
Het bedrijf sluit nu zijn onafhankelijke tools en sluit zich aan bij Discord, waar het van plan is de enorm populaire chat-app “breid zijn [vertrouwen en veiligheid] mogelijkheden uit.”
Het zou een goede combinatie kunnen zijn. Discord heeft een enorm netwerk, met meer dan 150 miljoen maandelijkse gebruikers, en servers kunnen een echte uitdaging zijn om te modereren. De service bestaat uit meer dan 19 miljoen individuele gemeenschappen, en die schaal vereist het werk van zowel vrijwilligers als teams binnen Discord om goed te modereren.
Hulpprogramma's zoals die van Sentropy zouden kunnen helpen beide groepen kunnen beter controleren op slecht gedrag op de netwerken waar ze toezicht op houden. Discord zal de overname gebruiken om zijn mogelijkheden uit te breiden om slechte inhoud te detecteren en te verwijderen en zijn veiligheidsteam te laten groeien, aldus een woordvoerder van het bedrijf. Ze zeiden dat vertrouwen en veiligheid een “belangrijkste prioriteit” is voor Discord.