Facebook erbjuder $10 miljoner i bidrag till forskning tech för att upptäcka deepfake videor
Facebook kommer att skapa sin egen deepfake videos att hjälpa till att bygga ett system som kan upptäcka dem.
Medan 2020 AMERIKANSKA presidentvalet har lagstiftare på kanten över AI-genererade falska videoklipp, en ny studie från Nederländerna-baserade deepfake-upptäckt outfit Deeptrace visar att de främsta offren i dag är kvinnor.
Reddit, den plats där termen deepfake myntades i början av 2018 förbjudna deepfake porr eller “ofrivillig porr”, som till stor del förlitar sig på en generativ kontradiktoriska nätverk (GANs) för att sätta in ansiktet av en kvinna i befintliga pornografiskt material.
Trots Reddit inflytande på internet kultur förbudet har inte hindrat framväxten av deepfake porr. Nya appar som DeepNude – en app som snabbt klädde en kvinna i en bild, har sedan dök upp som datanörd experimentera med GANs. Problemet är att apparna kan användas för att trakassera och skrämma kvinnor.
Även om det är uppenbart att hotet deepfakes innebär att demokratiska processer, tech är också tillämpas på oväntade sätt, till exempel VD bedrägeri med hjälp av syntetiskt tal – en enormt kostsam typ av bedrägerier som traditionellt sett har spelat ut via e-post.
Enligt Deeptrace, deepfake videor har exploderat under det senaste året ökat från 8 000 i December 2018 för att 14,678 idag. Och inte överraskande för internet, nästan allt material som är pornografi, som svarar för 96% av den deepfake videor det finns på nätet. Den falska videor har visats 134 miljoner gånger.
Siffrorna tyder på deepfake porr är fortfarande liten men växer också snabbt. Dessutom 90% av falska innehåll skildras kvinnor från USA, STORBRITANNIEN och Kanada, medan 2% utgjorde kvinnor från Sydkorea och 2% avbildas kvinnor från Taiwan.
“Deepfake pornografi är ett fenomen som uteslutande riktar sig mot och drabbar kvinnor,” konstaterar bolaget.
Som litet antal icke-pornografiska deepfake video det analyseras på YouTube mestadels innehöll (61%) syntetiseras manliga försökspersoner.
Enligt Henry Ajder, forskare vid Deeptrace, som för närvarande är de flesta av deepfake porr innebär berömda kvinnor. Men han räknar med hotet att alla kvinnor kommer sannolikt att öka eftersom det blir mindre beräkningsmässigt dyrt att skapa deepfakes.
“Som den generativa tekniken som stöd deepfakes blivit alltmer kommersialiserad, är det mycket troligt att fler privata personer kommer att vara målinriktad,” Ajder berättade ZDNet.
“Detta kommersialiseringen av processen kommer att göra tekniken betydligt mer tillgänglig för dåliga skådespelare och nästan säkert öka mängden av deepfakes som produceras.”
När det gäller de politiska hot, att det faktiskt inte finns så många fall där deepfakes har förändrats en politiskt resultat.
De enda två som nämns i rapporten som hände i Gabon och Malaysia. Fallet i Malaysia genereras en sex video där en minister, medan händelsen påverkar Gabon som är inblandade i en video släppt av regeringen i dess president Ali Bongo Ondimba efter att han drabbats av en stroke.
Ajder tycker det politiska hotet är för närvarande i “nära framtid”, men menar att idén om en deepfake är redan destabiliserande politiska processer.
“Jag skulle säga deepfakes, it-säkerhet, och politiska program utgöra allvarliga kortsiktiga risker som vi måste förbereda oss för nu, även om de inte orsakar total förödelse just nu i hur vissa människor kanske tänker,” sade han.
Mer på deepfakes och säkerhet
Googles krig mot deepfakes: val vävstolar, det aktier massor av AI-fejkade videos
Facebook, Microsoft: Vi ska betala ut $10m för tech till plats deepfake videorGlömma e-post: Bedragare använder för VD röst “deepfakes’ con arbetstagare i ledningar cash‘Deepfake” app Zao gnistor större personlig integritet i KinaAI, quantum computing och 5G skulle kunna göra brottslingar mer farligt än någonsin, varnar polisenSamsung använder AI att förvandla foton till talande huvud videorFacebook faktum-pjäser tåg AI för att upptäcka “djupt falska” videolurar faran för deepfakes TechRepublicDessa deepfakes av Bill Hader är helt skrämmande CNET
Relaterade Ämnen:
Regeringen – OSS
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem