Facebook på onsdagen delade några av framstegen inom AI som bidrar till företagets kolossala uppgift att tillämpa gemenskapsstandarder på sina plattformar. Nya tekniker och system som Facebook snabbt har flyttat från forskning till produktion, till exempel dess Reinforcement Integrity Optimizer (RIO), hjälper till att minska mängden hatprat och annat oönskat innehåll som Facebook -användare ser, säger företaget.
“AI är ett otroligt snabbt rörligt fält, och många av de viktigaste delarna av våra AI-system idag är baserade på tekniker som självövervakning, som verkade som en långt framtid för bara några år sedan,” Facebook CTO Mike Schroepfer sade till reportrar onsdag.
I gemenskapsstandardhanteringsrapporten som publicerades onsdag sa Facebook att förekomsten av hatprat under andra kvartalet 2021 minskade för tredje kvartalet i rad. Detta berodde på förbättringar när det gäller att proaktivt upptäcka hatprat och rankningsändringar i Facebook News Feed.
Under andra kvartalet fanns det fem visningar av hatprat för varje 10 000 visning av innehåll enligt rapporten. Det är ner från fem till sex visningar per 10 000 visningar under första kvartalet.
Samtidigt har företaget 31,5 miljoner bitar av hatiskt talinnehåll från Facebook under andra kvartalet, jämfört med 25,2 miljoner under första kvartalet och 9,8 miljoner från Instagram, en ökning från 6,3 miljoner under första kvartalet.
System som RIO, som introducerades i slutet av förra året, hjälper företaget att proaktivt upptäcka hatprat.
Det klassiska tillvägagångssättet för utbildning av AI använder en fast datauppsättning för att träna en modell som sedan distribueras för att fatta beslut om nya innehåll. Rio, däremot, vägleder en AI -modell för att lära sig direkt av miljontals aktuella innehåll. Det utvärderar ständigt hur bra det gör sitt jobb, och det lär sig och anpassar sig för att göra Facebook -plattformar säkrare över tiden.
“Denna typ av end-to-end-inlärning är otroligt värdefull för att upprätthålla gemenskapens standarder”, säger Schroepfer. “Eftersom problemets natur alltid utvecklas vid sidan av aktuella händelser, när nya problem dyker upp, måste våra system snabbt kunna anpassa sig. Förstärkningslärning är ett kraftfullt sätt att hjälpa AI att möta nya utmaningar när det är brist på bra utbildningsdata. Vi förväntar oss att systemet för vår RIO kommer att fortsätta att minska förekomsten av hatprat och annat oönskat innehåll långt in i framtiden, vilket är mycket uppmuntrande för en sådan ny teknik. “
Facebook ersätter också skräddarsydda system med mer generaliserade system i en “överraskande takt”, säger Schroepfer. Han sa också att de ser “imponerande förbättringar” i multimodala AI-modeller, som kan fungera på flera språk; flera metoder som text, bilder och video; och på flera politikområden.
Dessutom proklamerade Schroepfer de framsteg som Facbook -forskare har gjort inom områdena “nollskott” och “få skott” -inlärning, vilket gör att AI -system kan känna igen kränkande innehåll, även om de aldrig har sett det förut eller bara har sett några exempel av det under träningen.
“Nollskott och få skottinlärning är en av de många avancerade AI -domänerna där vi har gjort stora forskningsinvesteringar, och vi förväntar oss att se resultat under det kommande året”, säger Schroepfer.
Facebooks AI -system kompletterar tiotusentals individers arbete för att upprätthålla gemenskapsstandarder.
Relaterade ämnen:
Social Enterprise Digital Transformation CXO Internet of Things Innovation Enterprise Software 