MetaMeta tar flere skritt for å prøve å bekjempe sextorsjonsforbrytelser som er rettet mot tenåringer på Instagram. Selskapet kunngjorde torsdag planer om å teste uskarpe nakenbilder i DM-er sendt til tenåringer og forhindre potensielle svindlere fra selv å kontakte tenåringer.
Som standard vil funksjonen for nakenhet være slått på globalt for meldinger sendt til tenåringer under 18. Instagram planlegger også å vise et varsel for voksne som oppfordrer dem til å aktivere funksjonen. Videre vil alle som prøver å sende et nakenbilde bli bedt om å utvise forsiktighet når de deler slike bilder og fortalt at de kan oppheve sendingen av bildene hvis de ombestemmer seg.
Med sextortion og annen svindel som påvirker folk på sosiale medier media, håper Meta at sløringsfunksjonen vil beskytte tenåringer og voksne fra å se uønsket nakenhet i meldingene deres. Funksjonen er også utviklet for å spesifikt beskytte tenåringer fra svindlere som sender nakenbilder som en måte å lure dem til å svare med nakenbilder av seg selv.
Også: Instagram DM-er får en redigeringsfunksjon og Threads får bevegelser
Alle som mottar en melding med et uskarpt nakenbilde vil få vist en advarselsskjerm som lar dem velge om eller ikke for å se den uskarpe versjonen. Mottakere vil også se en melding som forteller dem at de ikke skal føle noe press til å svare og tilby dem en måte å blokkere og rapportere avsenderen på.
Personer som sender eller mottar bilder med nakenhet vil se sikkerhetstips om mulige risikoer. For eksempel kan ondsinnede personer skjermdumpe eller videresende slike bilder til andre, en taktikk som brukes i sextortion-svindel. Tipsene vil også gi lenker til forskjellige ressurser, inkludert Metas sikkerhetssenter, støttetelefoner, StopNCII.org for voksne over 18 og Take It Down for tenåringer under 18 år.
Å oppdage nakenhet i et bilde er en ganske teknisk utfordring. Instagrams funksjon for nakenhet vil bruke maskinlæring på enheten for å analysere bildet, sa Meta. Siden bildene blir evaluert på enheten og ikke online, vil funksjonen til og med fungere med krypterte chatter fra ende til ende.
Meta sa at det også jobber med en måte å bruke visse signaler for å identifisere kontoer som kan være involvert i sextortion-svindel. Selv om signalene ikke nødvendigvis vil være bevis på en slik svindel, er ideen å ta visse forholdsregler for å forhindre at slike kontoer samhandler med tenåringer. Spesifikt vil Instagram legge alle meldingsforespørsler fra potensielle sextortion-kontoer inn i mottakerens skjulte forespørslersmappe (hvor den forblir usynlig), vise sikkerhetsmeldinger til tenåringer som allerede utveksler meldinger med mulige sextortion-kontoer, og skjule Meldingsknapp på tenåringer' profiler fra potensielle sextortion-kontoer.
Også: 41 amerikanske stater saksøker Meta for påstander om at Instagram og Facebook er skadelige
Meta sa at det også testes nye popup-meldinger for brukere som kan ha chattet med en konto siden fjernet for sextortion. Meldingene ville henvise folk til å kontakte en venn og til ulike ressurser, inkludert Stop Sextortion Hub, støttetelefoner, StopNCII.org for de over 18 år, og Take It Down for de under 18.
Med tanke på at AI og ML er langt fra perfekte, man må spørre seg: hvilke signaler mater Meta systemet sitt for å oppdage mulige sextortion-kontoer? Hvordan vil folk som er falskt anklaget på denne måten kunne slå tilbake? I sitt innlegg forklarte Meta ikke nøyaktig hvordan det er identifiseringsprosessen ville fungere.