Instagram har inte skyddas effektivt användare från att skada sig själv och självmordsbenägen innehåll, Adam Mosseri, chef för företaget, berättar i en debattartikel i dag, och han säger att företaget arbetar för att råda bot på det.
Mosseri skriver i The Telegraph att döden av 14-åriga Molly Russell 2017 flyttade honom och drivit företaget att ta en djupare titt på sin egen skada innehåll screening. Russell dog genom självmord, och hennes familj, säger hon följde flera självskador och självmord Instagram-konton, vilket ledde till att hon döda sig själv. Efter att ha hört Russell ‘ s story, och efter STORBRITANNIEN hälsa sekreterare Matt Hancock utfärdade en varning till tech-jättar om deras hantering av dessa frågor, Mosseri och hans team började en “omfattande översyn” av hur plattformen hanterar att skada sig själv innehåll.
Hancock hotade att använda lagen för att tvinga företag att skydda barn mot detta innehåll
Han säger att plattformen förbud mot inlägg som främjar att skada sig själv eller begå självmord, men att det kämpar för att självständigt identifiera och polisen dem alla. “The bottom line är att vi ännu inte hitta nog av dessa bilder innan de ses av andra människor”, skriver han. Just nu, är plattformen till största delen förlitar sig på gemenskapens att rapportera stötande inlägg, men företaget är att investera i teknik för att bättre kunna identifiera dessa bilder innan de når prenumeranter. Det är också arbetar för att göra dem mindre synlig.
Enligt Mosseri, företaget har utbildade ingenjörer och innehåll granskare om hur man hittar dessa inlägg och har infört åtgärder för att stoppa tillhörande bild, hashtag, konto, och type-ahead-förslag. Mosseri gör klart att Instagram fortfarande gör inlägg att prata om psykisk hälsa kamp och självmord så länge de inte marknadsför det, men plattformen kommer inte rekommendera dessa inlägg via sök, hashtags, eller Utforska fliken.
Dessutom, Instagram är att tillämpa känslighet skärmar till allt innehåll företaget recensioner som innebär att man skär. Dessa skärmar dölja bilder och kräver att användarna att utnyttja genom att se dem.
“Vi är djupt vill få ordning på detta och vi kommer att göra allt vi kan för att få det att hända,” Mosseri skriver.
Om du eller någon du känner är med tanke på självmord eller är orolig, deprimerad, orolig eller behöver prata, det finns människor som vill hjälpa till:
I USA:
Krisen Sms: a Raden: Texten BÖRJAR till 741741 från var som helst i USA, någon gång, om någon typ av kris | http://www.crisistextline.org/
Det Nationella självmordsförebyggande: 1-800-273-8255 | http://suicidepreventionlifeline.org/
The Trevor Project: 1-866-488-7386 | http://www.thetrevorproject.org/
Utanför OSS:
International Association for Suicide Prevention listar ett antal självmord hjälplinjer genom landet. Klicka här för att hitta dem.
Befrienders över hela Världen: https://www.befrienders.org/need-to-talk