Facebook deelde woensdag enkele van de vorderingen op het gebied van AI die bijdragen aan de kolossale taak van het bedrijf om gemeenschapsnormen op al zijn platforms te handhaven. Nieuwe technieken en systemen die Facebook snel heeft verplaatst van onderzoek naar productie, zoals de Reinforcement Integrity Optimizer (RIO), helpen de hoeveelheid haatzaaien en andere ongewenste inhoud die Facebook-gebruikers zien, terug te dringen, aldus het bedrijf.
“AI is een ongelooflijk snel evoluerend veld en veel van de belangrijkste onderdelen van onze huidige AI-systemen zijn gebaseerd op technieken zoals zelftoezicht, dat enkele jaren geleden nog een verre toekomst leek”, Facebook Dat zei CTO Mike Schroepfer woensdag tegen verslaggevers.
In het Community Standards Enforcement Report dat woensdag werd gepubliceerd, zei Facebook dat de prevalentie van haatzaaiende uitlatingen in het tweede kwartaal van 2021 voor het derde kwartaal op rij is afgenomen. Dit was te danken aan verbeteringen in het proactief detecteren van haatspraak en rangschikkingswijzigingen in de Facebook-nieuwsfeed.
In het tweede kwartaal waren er volgens het rapport vijf weergaven van haatspraak voor elke 10.000 weergaven van inhoud. Dat is gedaald van vijf naar zes weergaven per 10.000 weergaven in het eerste kwartaal.
Ondertussen heeft het bedrijf 31,5 miljoen haatdragende content van Facebook in het tweede kwartaal, vergeleken met 25,2 miljoen in het eerste kwartaal en 9,8 miljoen op Instagram, tegen 6,3 miljoen in het eerste kwartaal.
Systemen zoals RIO, die eind vorig jaar werden geïntroduceerd, helpen het bedrijf om haatzaaiende uitlatingen proactief te detecteren.
De klassieke benadering van het trainen van AI gebruikt een vaste dataset om een model te trainen dat vervolgens wordt ingezet om beslissingen te nemen over nieuwe stukken inhoud. Rio daarentegen begeleidt een AI-model om rechtstreeks te leren van miljoenen huidige stukjes inhoud. Het evalueert voortdurend hoe goed het zijn werk doet, en het leert en past zich aan om Facebook-platforms in de loop van de tijd veiliger te maken.
“Dit soort end-to-end leren is ongelooflijk waardevol voor het afdwingen van gemeenschapsnormen”, zei Schroepfer. “Omdat de aard van het probleem altijd samen met de actualiteit evolueert, moeten onze systemen zich snel kunnen aanpassen wanneer zich nieuwe problemen voordoen. Reinforcement Learning is een krachtige benadering om AI te helpen nieuwe uitdagingen aan te gaan wanneer er een tekort is aan goede trainingsgegevens. We verwachten dat systeem onze RIO de prevalentie van haatzaaiende uitlatingen en andere ongewenste inhoud tot ver in de toekomst zal blijven verminderen, wat zeer bemoedigend is voor zo'n nieuwe technologie.”
Facebook vervangt ook op maat gemaakte systemen voor één doel door meer algemene systemen in een “verrassend tempo”, zei Schroepfer. Hij zei ook dat ze “indrukwekkende verbeteringen” zien in multimodale AI-modellen, die in meerdere talen kunnen werken; meerdere modaliteiten zoals tekst, afbeeldingen en video; en op meerdere beleidsterreinen.
Bovendien prees Schroepfer de vooruitgang die Facbook-onderzoekers hebben geboekt op het gebied van “zero shot” en “few shot” leren, waardoor AI-systemen inbreukmakende inhoud kunnen herkennen, zelfs als ze deze nog nooit eerder hebben gezien of slechts een paar voorbeelden hebben gezien hiervan tijdens de training.
“Zero shot en few shot learning is een van de vele geavanceerde AI-domeinen waarin we grote onderzoeksinvesteringen hebben gedaan, en we verwachten de resultaten in het komende jaar te zien”, aldus Schroepfer.
De AI-systemen van Facebook vormen een aanvulling op het werk van tienduizenden individuen om gemeenschapsnormen te handhaven.
Verwante onderwerpen:
Social Enterprise Digitale Transformatie CXO Internet of Things Innovatie Enterprise Software 