I maj skrev jag här att barnsäkerhetsproblemet på tekniska plattformar är värre än vi visste. En störande studie från ideella organisationen Thorn fann att majoriteten av amerikanska barn använde appar år innan de ska vara det – och en fjärdedel av dem sa att de har haft sexuellt uttalade interaktioner med vuxna. Det åligger on on plattformar att göra ett bättre jobb med att både identifiera barnanvändare av deras tjänster och för att skydda dem från de övergrepp de kan drabbas av där.
Instagram har nu gjort några lovande åtgärder åt det hållet. Igår sade företaget att det skulle:
- Gör konton privata som standard för barn 16 och yngre
- Dölj tonårskonton från vuxna som har misstänkt beteende, till exempel att de upprepade gånger blockerats av andra barn
- Förhindra att annonsörer riktar sig till barn med intressebaserade annonser. (Det fanns bevis för att annonser för rökning, viktminskning och spelande alla visades för tonåringar)
- Utveckla AI -verktyg för att förhindra mindreåriga användare att registrera sig, ta bort befintliga konton för barn under 13 år , och skapa nya åldersverifieringsmetoder
Företaget upprepade också sin plan att bygga en barnversion av Instagram, som har dragit fördömanden från … många människor. < /p>De flesta plattformar har gjort väldigt lite för att identifiera eller ta bort mindreåriga användare
Det är klart att en del av detta faller i “vänta, gjorde de inte det redan?” territorium. Och Instagrams hand har utan tvekan tvingats till av ökande granskning av hur barn mobbas i appen, särskilt i Storbritannien. Men som Thorn -rapporten visade har de flesta plattformar gjort väldigt lite för att identifiera eller ta bort mindreåriga användare – det är tekniskt svårt arbete, och du får en känsla av att vissa plattformar känns som att de är bättre att inte veta.
Så tack till Instagram för att ta utmaningen på allvar och bygga system för att hantera den. Här pratar Olivia Solon på NBC News med Instagrams chef för offentlig politik, Karina Newton (ingen relation), om vad företaget bygger:
“Att förstå människors ålder på internet är en komplex utmaning,” sa Newton. ”Att samla in folks ID är inte svaret på problemet eftersom det inte är en rättvis, rättvis lösning. Tillgången beror mycket på var du bor och hur gammal du är. Och människor vill inte nödvändigtvis ge sina ID till internettjänster. ”
Newton sa att Instagram använde artificiell intelligens för att bättre förstå ålder genom att leta efter textbaserade signaler, till exempel kommentarer om användarnas födelsedagar. Tekniken försöker inte bestämma ålder genom att analysera människors ansikten i foton, sa hon.
Samtidigt är det fortfarande pinsamt lätt för journalister att identifiera säkerhetsproblem på plattformen med en handfull enkla sökningar. Här är Jeff Horwitz idag i The Wall Street Journal:
En helgranskning av The Wall Street Journal av Instagrams nuvarande AI-driven rekommendations- och tillämpningssystem belyste de utmaningar som dess automatiska tillvägagångssätt står inför. Uppmanas med hashtaggen #preteen, Instagram rekommenderar inlägg taggade #preteenmodel och #preteenfeet, som båda innehöll ibland grafiska kommentarer från vad som tycktes vara vuxna manliga användare på bilder med unga tjejer.
“Om du uppmanades med hashtaggen #preteen rekommenderade Instagram inlägg taggade #preteenmodel och #preteenfeet, som båda innehöll ibland grafiska kommentarer från vad som verkade vara vuxna manliga användare på bilder med unga tjejer. ”https://t.co/HRclDZnNBp
– Jeff Horwitz (@JeffHorwitz) 27 juli 2021
Instagram tog bort båda de senare hashtagsna från sin sökfunktion efter frågor från Journal och sa att de olämpliga kommentarerna visar varför det har börjat försöka blockera misstänkta vuxna konton från att interagera med minderåriga.
Problematiska hashtags åt sidan, det viktigaste Instagram gör för barns säkerhet är att sluta låtsas att barn inte använder deras tjänst. På för många tjänster är denna vy fortfarande standard – och den har skapat blinda fläckar som både barn och rovdjur alltför enkelt kan navigera. Instagram har nu identifierat några av dessa och har offentligt åtagit sig att eliminera dem. Jag skulle gärna se att andra plattformar följer efter här – och om de inte gör det bör de vara beredda att förklara varför.
Det viktigaste Instagram gör: sluta låtsas att barn inte använder deras tjänst
Naturligtvis skulle jag också vilja se Instagram göra mer. Om det första steget för plattformar är att erkänna att de har minderåriga användare, är det andra steget att bygga ytterligare skydd för dem – sådana som går utöver deras fysiska och emotionella säkerhet. Studier har till exempel visat att tonåringar är mer trovärdiga och sannolikt tror på falska berättelser än vuxna, och de kan vara mer benägna att sprida desinformation. (Detta kan förklara varför TikTok har blivit ett populärt hem för konspirationsteorier.)
Om vi antar att så är fallet skulle en plattform som verkligen var säker för unga också investera i hälsan för dess informationsmiljö. Som en bonus skulle en hälsosammare informationsmiljö vara bättre för vuxna och vår demokrati.
“När du bygger för den svagaste länken, eller om du bygger för de mest utsatta, förbättras du vad du bygger för varenda person ”, berättade Julie Cordua, Thorns VD, i maj. Genom att erkänna verkligheten – och bygga för den svagaste länken – är Instagram ett bra exempel för sina kamrater.
Hoppas att de följer efter – och går längre.
Denna kolumn publicerades tillsammans med Platformer, ett dagligt nyhetsbrev om Big Tech och demokrati.