Facebook lanserar AI verktyg för att ta itu med revenge porn

0
164

BRITTISKA parlamentets rapport avslöjar Facebook ‘ s dirty secrets
Kommittén rapporterar om falska nyheter och missbruk av uppgifter säger att Facebook maximerar intäkter “till varje pris” – även när kostnaden är användarnas integritet och förtroende. Läs mer: https://zd.net/2SlEGUZ

Revenge porn, annars känd som delning av intima och ofta sexuella bilder utan samtycke, är ett problem som har exploderat i svårighetsgrad med tillväxten av Internet.

Innan webben, bilder tagna till förmån för en partner, om delat, skulle bara nå en liten publik om den utsätts. Men bilder nu tagit och lagt upp på nätet kan expandera för att nå en global publik på ett ögonblick, vilket leder till förödande och långsiktiga konsekvenser för offren.

Samtidigt som dessa bilder kan rapporteras i sociala medier, det kan ta tid att jaga ned dem och ta bort dem-och det finns alltid möjligheten att dessa bilder som har sparats och kan åter publiceras.

Se också: Facebook förlorar två ledande befattningshavare

På fredag, Facebook är Global Chef för Säkerhet Antigone Davis sade att företaget tittar på nya sätt att ta itu med revenge porn, och medan dessa bilder tas bort när de är rapporterade, nu är det inte tillräckligt att förlita sig på feedback ensam.

Tech jätten, som ironiskt nog har sprängts igen och igen för sin egen svag integritet och skydd av personuppgifter praxis, säger att foto erkännande teknik har på senare år använts för att spela in hämnd porr och för att förhindra dessa bilder från att vara gemensamma för hela det sociala nätverket.

CNET: Facebook och YouTube svara på dödlig Nya Zeeland moskén skytte

Nu, med ett nytt verktyg, stärkt av en artificiell intelligens (AI) algoritmer och maskininlärning (ML), har skapats för att förhoppningsvis hindra flödet av revenge porn över Facebook och Instagram.

“Med hjälp av maskininlärning och artificiell intelligens, kan vi nu proaktivt upptäcka nära-nakna bilder eller videor som är gemensam utan tillstånd på Facebook och Instagram,” Davis säger. “Detta innebär att vi kan hitta detta innehåll innan alla rapporter.”

En medlem av Gemenskapen Operations-teamet har varit utbildade att fokusera på att granska det innehåll som finns av verktyget. Om revenge porn finns och innehållet överträdelser Facebook gruppstandarder, bilden är borttagna och “i de flesta fall” – konto som delade media kommer att vara inaktiverad.

Facebook ‘ s regler säger att “för att skydda offren och de överlevande, vi tar bort bilder som skildrar händelser av sexuellt våld och intima bilder delas utan tillstånd från bilden personer.”

TechRepublic: Var din privata bilder exponeras på grund av att Facebook är säkerhet bugg?

Programvaran är ett tillägg till en pilot program som ger användare möjlighet att lämna in bilder till Facebook för att förhindra dem från att bli delade. Tanken på att proaktivt för att skicka sexuella bilder av sig själva till ett socialt nätverk för att förhindra att deras uppladdning kan tyckas bakvända — och för några av oss, ärligt talat vänder sig magen-men offren och stödja organisationer har gett Facebook tillräckligt mycket positiv feedback för att expandera denna pilot under de kommande månaderna.

“Samtidigt som detta pilotprojekt har varit föremål för en del kritik, vår forskning med offer och feedback från organisationer visar att detta var ett alternativ offer i allmänhet ville, och de ville ha det inbyggt i rapporteringen mer specifikt,” Facebook säger. “Hittills, användning av programmet har varit relativt låg, delvis på grund av att många av offren inte känner till programmet finns. Och det är förståeligt att många offer är oroliga att skicka bilder till människor de inte känner, så vi arbetar också för att bättre förklara och förtydliga processen och säkerhetsåtgärder på plats.”

Om du tror att du kan bli utsatt för hämnd porr, eller redan har blivit så sociala nätverk jätte har också lanserat “Inte Utan Mitt Medgivande,” ett offer stöd nav som innehåller råd och åtgärder att vidta om dessa situationer uppstår.

En hämnd porr mosdal, skapad i samarbete med organisationer, inklusive STORBRITANNIEN ‘ s Revenge Porn Hjälptelefon den AMERIKANSKA Cyber Civila Rättigheter Initiativ, och Brasilien är SaferNet, kommer också att göras tillgängliga under de kommande månaderna.

Tidigare och relaterade täckning

Rapport: Facebook ansikten kriminella sond för att dela användardata
Att sluta fem tech-jättar: Kan du verkligen fly Facebook?
Facebook stämmer ukrainska webbläsare förlängning beslutsfattare för att skrapa användardata

Relaterade Ämnen:

Säkerhet-TV

Hantering Av Data

CXO

Datacenter