Deepfake tech er primært bliver brugt til porno og kvinder er de største ofre
Deepfakes udgør en alvorlig trussel mod demokratiet i det lange løb, men kvinder er tilbøjelige til at lide for det første, en ny undersøgelse siger.
“Hjælp os”, begyndte at Kvidre VP af tillid og sikkerhed, Del Harvey, som hun meddelte, at de sociale medier er kommet op med et nyt udkast til en politik for bekæmpelse af spredning af deepfakes på sin platform.
Virksomheden opfordrer Twitter-brugere til at give noget feedback på den nye strategi, som så vil blive gennemgået og justeret, inden de bliver tilføjet til Twitter Regler.
Skabt til at løse, hvad den kalder “syntetiske og manipulerede medier”, eller deepfakes, udkast til oversigt over de foranstaltninger, at Twitter vil tage, når det ser sådan indhold, der er udgivet med det formål at vildlede folk.
Den nye politik ville lade Twitter omfatter en etiket ved siden af tweets dele, hvad det er, der er identificeret som manipuleret indhold. Platformen vil også advare brugere, før de deler eller som tweets, der indeholder sådanne mærket medier, og give links til kilder, der forklarer, hvorfor de mener, at medierne er fremstillet.
Harvey tilføjede, at tweets kan blive fjernet, hvis den falske indholdet, de indeholder, kan udgøre en trussel mod en persons fysiske sikkerhed “eller føre til andre alvorlige skader.”
“Vi ønsker at høre fra dig,” Harvey fortsatte, ringer efter Twitter-brugere, til at fuldføre en undersøgelse om den nye politik.
Blandt andre ting, undersøgelsen spørger, om det er Twitter ‘ s ansvar at fjerne vildledende medier, uanset om det har ret til at fjerne tweets, der deler deepfakes, eller om den sociale medie gigant bør gøre noget ved de konti, der deler falsk indhold.
Alternativt kan brugere tweet om udkast til ved hjælp af hashtag #TwitterPolicyFeedback.
Denne bevægelse følger en anden seneste opdatering på Twitter ‘ s regler, som ligeledes kom, efter at selskabet bedt sine brugere til at bidrage med deres tanker og ideer, denne gang om sin politik på hadefulde adfærd.
I juli sidste år, efter en gennemgang af 8.000 svar fra mere end 30 lande, platform udvidet sin regler mod hadefulde adfærd, til også at omfatte sprog, der dehumanized andre på baggrund af religion.
Traditionelt, ændringer til Twitter ‘ s regler ske udelukkende gennem konsultationer med interne teams og med virksomhedens egen Tillid og Sikkerhed rådet.
Twitter ‘ s forsøg på at indsamle brugerfeedback på sin deepfake politik kommer som sociale medier platforme rampe op i deres bestræbelser på at standse udbredelsen af jern-og online-indhold.
Tidligere dette år, en manipuleret video af den AMERIKANSKE House Speaker Nancy Pelosi blev set over 1,4 millioner gange på Facebook. Det blev senere konstateret, at videoen havde været faldet til omkring 75% af sin oprindelige hastighed, og at hendes stemme havde også blevet ændret.
Med tiden op til præsidentvalget i November 2020, platforme som Twitter er kommet under intenst pres for at standse udbredelsen af et sådant indhold.
Facebook, Amazon og Microsoft er gået sammen i September i en fælles DeepFake Opdagelse Udfordring (DFDC), med et budget på 10 millioner dollars for at komme op med en teknologi, der kan registrere de videoer, der er blevet manipuleret af AI.
De vigtigste spørgsmål, som DFDC er, at der er ingen store database af deepfakes, hvilket betyder, at der ikke er nogen industri benchmark for at opdage manipuleret indhold.
Bare et par uger senere, Google viste udgivet et datasæt på 3.000 fremstillet videoer med 28 aktører, i et forsøg på at styrke systemer, der er konstrueret til at registrere AI-genereret deepfakes.
Selv om disse initiativer, der tyder på, at sociale medier platforme er ramping op i deres bestræbelser på at løse problemet med falske indhold, de viser også, at der stadig ikke er noget avanceret metode til at registrere deepfakes effektivt.
Twitter ‘ s seneste udmelding om, ikke giver en ny teknisk løsning. I virkeligheden, den post indeholder et link til en formular til at udfylde “, hvis du ønsker at blive partner med os om at udvikle løsninger til at opdage syntetiske og manipulerede medier.”
Det er uklart, derfor, hvordan virksomheden vil være i stand til effektivt at afsløre falske indhold i første omgang.
Feedback periode, Twitter ‘ s nye politik på deepfakes vil lukke den 27 November kl 11:59 pm GMT. Selskabet har sagt, at det vil gøre en bekendtgørelse på mindst 30 dage, før den politik, der går i kraft.
Relaterede Emner:
Regeringen
Digital Transformation
CXO
Tingenes Internet
Innovation
Virksomhedens Software