I maj skrev jeg her, at børnesikkerhedsproblemet på tekniske platforme er værre, end vi vidste. En foruroligende undersøgelse fra den nonprofitorganisation Thorn fandt ud af, at størstedelen af amerikanske børn brugte apps år før de skulle være – og fuldt ud sagde en fjerdedel af dem, at de havde seksuelt eksplicitte interaktioner med voksne. Det sætter os på platforme for at gøre et bedre stykke arbejde med både at identificere børnebrugere af deres tjenester og beskytte dem mod det misbrug, de måtte finde der.
Instagram har nu foretaget nogle lovende tiltag i den retning. I går sagde virksomheden, at det ville:
- Gør konti privat som standard for børn 16 og yngre
- Skjul teenagekonti fra voksne, der har udvist mistænkelig adfærd, såsom at blive blokeret gentagne gange af andre børn
- Forhindre annoncører i at målrette børn med interessebaserede annoncer. (Der var tegn på, at annoncer for rygning, vægttab og spil alle blev vist for teenagere)
- Udvikl AI -værktøjer til at forhindre mindreårige brugere i at tilmelde sig, fjerne eksisterende konti for børn under 13 år , og opret nye metoder til verifikation af alder
Virksomheden gentog også sin plan om at bygge en børns version af Instagram, som har trukket fordømmelser fra … mange mennesker. < /p>De fleste platforme har gjort meget lidt for at identificere eller fjerne mindreårige brugere
Det er klart, at noget af dette falder i “vent, gjorde de det ikke allerede?” territorium. Og Instagrams hånd er uden tvivl blevet tvunget af voksende granskning af, hvordan børn mobbes i appen, især i Storbritannien. Men som Thorn -rapporten viste, har de fleste platforme gjort meget lidt for at identificere eller fjerne mindreårige brugere – det er teknisk svært arbejde, og du får en fornemmelse af, at nogle platforme føler, at de er bedre til ikke at vide det.
Så tak til Instagram for at tage udfordringen seriøst og opbygge systemer til at løse den. Her taler Olivia Solon på NBC News med Instagrams chef for offentlig politik, Karina Newton (ingen relation), om hvad virksomheden bygger:
“At forstå folks alder på internettet er en kompleks udfordring,” sagde Newton. »Indsamling af folks ID er ikke svaret på problemet, da det ikke er en fair, rimelig løsning. Adgang afhænger meget af, hvor du bor, og hvor gammel du er. Og folk vil ikke nødvendigvis give deres id'er til internettjenester. ”
Newton sagde, at Instagram brugte kunstig intelligens til bedre at forstå alder ved at lede efter tekstbaserede signaler, såsom kommentarer om brugernes fødselsdage. Teknologien forsøger ikke at bestemme alder ved at analysere folks ansigter på fotos, sagde hun.
På samme tid er det stadig pinligt let for journalister at identificere sikkerhedsproblemer på platformen med en håndfuld enkle søgninger. Her er Jeff Horwitz i dag i The Wall Street Journal:
En weekendanmeldelse af The Wall Street Journal af Instagrams nuværende AI-drevne anbefalings- og håndhævelsessystemer fremhævede de udfordringer, dens automatiserede tilgang står over for. Opfordret med hashtagget #preteen, anbefalede Instagram indlæg, der var tagget #preteenmodel og #preteenfeet, som begge nogle gange indeholdt grafiske kommentarer fra hvad der syntes at være voksne mandlige brugere på billeder med unge piger.
“Instagram blev anbefalet med hashtagget #preteen, og anbefalede indlæg, der var tagget #preteenmodel og #preteenfeet, som begge indeholdt undertiden grafiske kommentarer fra hvad der syntes at være voksne mandlige brugere på billeder med unge piger. ”https://t.co/HRclDZnNBp
– Jeff Horwitz (@JeffHorwitz) 27. juli 2021
Instagram fjernede begge sidstnævnte hashtags fra sin søgefunktion efter forespørgsler fra Journal og sagde, at de upassende kommentarer viser, hvorfor de er begyndt at søge at blokere mistænkelige voksenkonti fra at interagere med mindreårige.
Problematiske hashtags til side er det vigtigste, Instagram gør for børns sikkerhed, at stoppe med at lade som om, at børn ikke bruger deres service. Ved for mange tjenester er denne visning stadig standard – og den har skabt blinde vinkler, som både børn og rovdyr for let kan navigere i. Instagram har nu identificeret nogle af disse og forpligtet sig offentligt til at fjerne dem. Jeg ville elske at se andre platforme følge trop her – og hvis de ikke gør det, bør de være parate til at forklare hvorfor.
Det vigtigste Instagram gør: stop med at lade som om børn ikke bruger deres service
Selvfølgelig vil jeg også gerne se Instagram gøre mere. Hvis det første trin for platforme er at anerkende, at de har mindreårige brugere, er det andet trin at opbygge yderligere beskyttelse for dem – dem, der går ud over deres fysiske og følelsesmæssige sikkerhed. Undersøgelser har for eksempel vist, at teenagere er mere troværdige og sandsynligvis tror på falske historier end voksne, og de kan være mere tilbøjelige til at sprede misinformation. (Dette kan forklare, hvorfor TikTok er blevet et populært hjemsted for konspirationsteorier.)
Forudsat at det er tilfældet, ville en platform, der virkelig var sikker for unge, også investere i sundheden for dens informationsmiljø. Som en bonus ville et sundere informationsmiljø også være bedre for voksne og vores demokrati.
“Når du bygger for det svageste led, eller du bygger for de mest sårbare, forbedrer du dig hvad du bygger for hver enkelt person, ”fortalte Julie Cordua, Thorns administrerende direktør, mig i maj. Ved at anerkende virkeligheden – og bygge til det svageste led – er Instagram et godt eksempel for sine jævnaldrende.
Her håber de, at de følger trop – og går videre.
Denne klumme blev udgivet i fællesskab med Platformer, et dagligt nyhedsbrev om Big Tech og demokrati.