Deepfake tech är huvudsakligen används för porr och kvinnor som är de främsta offren
Deepfakes utgör ett allvarligt hot mot demokratin i det långa loppet, men kvinnor är benägna att drabbas först, en ny studie säger.
“Hjälp oss”, började Twitter VP av förtroende och trygghet Del Harvey, då hon meddelade att de sociala medierna har kommit med ett nytt förslag till policy för att motverka spridningen av deepfakes på sin plattform.
Företaget uppmanar Twitter-användare att ge feedback om den nya strategin, som sedan kommer att ses över och justeras innan de läggs till Twitter Regler.
Skapats för att ta itu med vad man kallar “syntetiska och manipulerade media”, eller deepfakes det utkast som beskriver de åtgärder som Twitter kommer att ta när det ser sådant innehåll som publiceras med syfte att missleda människor.
Den nya politiken skulle låta Twitter har en etikett bredvid tweets dela med sig av vad som har identifierats som manipulerade innehåll. Plattformen skulle även varna användare innan de aktie-eller som tweets som innehåller sådana märkta media, och ge länkar till källor som förklarar varför de anser att medierna är påhittade.
Harvey tillade att tweets kan tas bort om de falska innehåll de innehåller skulle kunna hota någons fysiska säkerheten “eller leda till allvarlig skada.”
“Vi vill höra från dig,” Harvey fortsatte att kalla för Twitter-användare att fylla i en enkät om den nya politiken.
Bland annat kartläggs om det är Twitter ansvar att ta bort vilseledande media, om det har rätt att ta bort tweets som delar deepfakes, eller om sociala medier jätte bör göra något åt de konton som delar falska innehåll.
Alternativt kan användare kan twittra om förslaget att använda hashtag #TwitterPolicyFeedback.
Detta steg följer en annan uppdatering nyligen på Twitter: s regler, som också kom efter det att bolaget uppmanade sina användare att bidra med sina tankar och idéer, den här gången om sin politik på hatiska beteende.
I juli förra året, efter att ha granskat 8,000 svar från mer än 30 länder, plattform för utökat sitt regler mot hatiska beteende inkludera språk som dehumanized andra på grund av religion.
Traditionellt, förändringar Twitter regler ske uteslutande genom samråd med interna team och med företagets egen Tillit och Säkerhet rådet.
Twitter är ett försök att samla in feedback på sitt deepfake politik kommer som sociala medier plattformar ramp upp sina ansträngningar för att bekämpa spridningen av fabricerade innehåll online.
Tidigare i år, en manipulerad video av det AMERIKANSKA representanthusets talman Nancy Pelosi var sett över 1,4 miljoner gånger på Facebook. Det har senare funnit att video hade varit avtagit till ca 75% av sin ursprungliga hastighet, och att hennes röst hade också ändrats.
Med upptakten till presidentvalet i November 2020, plattformar som Twitter har kommit för intensiva påtryckningar för att bekämpa spridningen av sådant innehåll.
Facebook, Amazon och Microsoft har samarbetat i September i en gemensam DeepFake Upptäckt Utmaning (DFDC), med en budget på 10 miljoner dollar för att komma upp med en teknik som kan upptäcka filmer som har manipulerats av AI.
Den viktigaste frågan som identifierats av DFDC är att det är ingen stor databas av deepfakes, vilket innebär att det inte finns någon industriell riktmärke för att upptäcka manipulerade innehåll.
Bara några veckor senare, Google visade släppt ett dataset med 3 000 är tillverkade videor med 28 aktörer, i ett försök att förbättra system för att upptäcka AI-genererade deepfakes.
Även om dessa initiativ tyder på att sociala medier är trappar upp sina ansträngningar för att ta itu med frågan om falska innehåll, de visar också att det fortfarande ingen avancerad metod för att upptäcka deepfakes effektivt.
Twitter nyligen tillkännagett inte erbjuder en ny teknisk lösning. I själva verket inlägg innehåller en länk till ett formulär att fylla “om du vill samarbeta med oss för att utveckla lösningar för att upptäcka syntetiska och manipulerade media.”
Det är oklart, och därför hur företaget kommer att kunna effektivt upptäcka falska innehåll i första hand.
Feedback period för twitters nya policy på deepfakes kommer att avslutas den 27 November kl 11:59 GMT. Företaget har sagt att det kommer att göra en annan meddelande minst 30 dagar innan försäkringen träder i kraft.
Relaterade Ämnen:
Regeringen
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem