
Bild: Facebook
Facebook integritet VP Guy Rosen har stängt påståenden om att AI -tekniken den använder för att bekämpa hatprat har liten inverkan och säger att det “inte är sant”. I stället hävdade han att förekomsten av hatprat på Facebook har minskat med nästan 50% under de tre senaste kvartalen.
“Vi vill inte se hat på vår plattform, inte heller våra användare eller annonsörer, och vi är transparenta om vårt arbete med att ta bort det”, skrev Rosen i ett blogginlägg.
“Vad dessa dokument visa att vårt integritetsarbete är en flerårig resa. Även om vi aldrig kommer att vara perfekta, arbetar våra team kontinuerligt med att utveckla våra system, identifiera problem och bygga lösningar. “
Rosens inlägg var ett svar på en Wall Street Journal -artikel som, baserat på läckta interna dokument, rapporterade att sociala mediernas jätte AI -teknik skapades för att ta bort kränkande innehåll som hatprat och våldsamma bilder har haft liten framgång.
Rapporten påpekade att ett team av Facebook -anställda i mars uppskattade att AI -systemen tog bort inlägg som genererade 3% till 5% av åsikterna om hatprat på plattformen och 0,6% av allt innehåll som bröt mot företagets policy mot våld och hets.
Men Rosen sa att “att fokusera bara på att ta bort innehåll är fel sätt att se på hur vi bekämpar hatprat”.
“Det beror på att användning av teknik för att ta bort hatprat är bara ett sätt att motverka det. Vi måste vara säkra på att något är hatprat innan vi tar bort det,” sade han.
“Om något kan vara hatprat men vi inte är tillräckligt säkra på att det uppfyller gränsen för borttagning, kan vår teknik minska innehållets distribution eller rekommenderar inte grupper, sidor eller personer som regelbundet lägger ut innehåll som sannolikt kommer att bryta mot vår policyer. Vi använder också teknik för att flagga innehåll för mer granskning. “
I stället skisserade han att Facebook mäter sin framgång baserat på förekomsten av de hatfulla yttranden som människor ser på sin plattform och förklarar att det bara är fem visningar per var 10 000 på sin plattform.
“Förekomsten berättar för oss vad kränkande innehåll människor ser för att vi missade det. Det är hur vi mest objektivt utvärderar våra framsteg, eftersom det ger den mest fullständiga bilden”, sa han.
Rosen passade också på att påpeka att WSJ -rapporten “missuppfattat” sin proaktiva upptäcktshastighet, en annan mått som företaget förmodligen använder för att berätta hur bra dess teknik är för att hitta kränkande innehåll innan folk rapporterar det till företaget.
“När vi började rapportera våra mätvärden om hatprat upptäcktes endast 23,6% av innehållet vi tog bort proaktivt av våra system. Majoriteten av det vi tog bort hittades av människor. Nu är det antalet över 97 %, “Hävdade Rosen.
Förra månaden sa Facebook att det har gjort framsteg i sin AI som används för att hjälpa till med innehållsmoderering, inklusive introduktion av sin Reinforcement Integrity Optimizer (RIO), som vägleder en AI -modell för att lära sig direkt av miljontals aktuella innehållsdelar för att utvärdera hur bra det gick sitt jobb.
Detta blogginlägg av Rosen är det senaste uttalandet från Facebook när det försöker skingra svidande påståenden om sin verksamhet. Tidigare under månaden tog VD Mark Zuckerberg offentligt upp anklagelser om att jätten på sociala medier prioriterar vinst framför säkerhet och välbefinnande och sa att det också var “bara inte sant”.
“Argumentet att vi medvetet driver innehåll som gör människor som är arga på vinst är djupt ologiska, säger han.
Svaret var efter att Facebook -visselblåsaren Frances Haugen framförde den amerikanska senaten som en del av sin undersökning av Facebooks verksamhet och anklagade den sociala mediejätten för att avsiktligt dölja viktig information från allmänheten för vinst. Under sitt vittnesmål betecknade hon företaget som “moraliskt konkurs” och kastade “de val som görs inuti Facebook” som “katastrofala för våra barn, vår integritet och vår demokrati”.
Relaterad täckning
Facebook skickar upphörande-och-avstå-brev och ber om att följa upp allt som ska skrotas Scott Morrison säger att sociala medieplattformar är utgivare om de inte vill identifiera användare. h3> Relaterade ämnen:
Säkerhetssamarbete CXO Tech Industry Digital Transformation Smart Office