Facebook tilbyder $10 millioner i støtte til forskning for teknisk til at opdage deepfake videoer
Facebook vil skabe sin egen deepfake videoer til at hjælpe med at opbygge et system, der kan opdage dem.
Mens 2020-AMERIKANSKE præsidentvalg har lovgivere på kant over AI-genereret falske videoer, en ny undersøgelse fra Holland-baseret deepfake-detection tøj Deeptrace viser, at de største ofre i dag er kvinder.
Reddit, hvor udtrykket deepfake blev opfundet, i begyndelsen af 2018 forbudt deepfake porno eller “ufrivillig porno’, som i vid udstrækning bygger på generativ kontradiktorisk netværk (GANs) til at indsætte et ansigt af en kvinde i eksisterende pornografisk materiale.
På trods af Reddit ‘ s indflydelse på internettet kultur forbuddet har ikke forhindret fremkomsten af deepfake porno. Nye apps som DeepNude – en app, der hurtigt en afklædt kvinde i et billede – har siden dukkede op som techies eksperimentere med GANs. Problemet er, at apps kan bruges til at chikanere og skræmme kvinder.
Selv om der er åbenlyse trussel, som deepfakes udgør for de demokratiske processer, tech er også anvendes på uventede måder, sådan som administrerende DIREKTØR svindel med syntetisk stemme – et enormt dyre form for svindel, som har traditionelt spillet ud via e-mail.
Ifølge Deeptrace, deepfake videoer er eksploderet i det seneste år, er steget fra 8.000 i December 2018, 14,678 i dag. Og ikke overraskende til internettet, næsten alt materialet er pornografi, som tegner sig for 96% af de deepfake videoer det er fundet online. Den falske videoer er blevet set 134 millioner gange.
Tallene tyder på, deepfake porno er stadig niche, men også vokser hurtigt. Derudover 90% af den falske indhold afbildet kvinder fra USA, UK, og Canada, mens 2% repræsenterede kvinder fra Sydkorea og 2% afbildet kvinder fra Taiwan.
“Deepfake pornografi er et fænomen, der udelukkende mål og skader kvinder,” selskabet noter.
Det lille antal af ikke-pornografiske deepfake videoer der analyseres på YouTube for det meste indeholdt (61%) syntetiseret mandlige forsøgspersoner.
Ifølge Henry Ajder, en forsker ved Deeptrace, som i øjeblikket mest af deepfake porno indebærer berømte kvinder. Men han regner den trussel mod alle kvinder er tilbøjelige til at stige, da det bliver mindre beregningsmæssigt dyrt at oprette deepfakes.
“Som generativ teknologier, der understøtter deepfakes bliver i stigende grad kommercialiseres, at det er meget sandsynligt, mere privat personer vil være målrettet,” Ajder fortalte ZDNet.
“Denne markedsgørelse proces vil gøre teknologien betydeligt mere tilgængelige for dårlige skuespillere og næsten helt sikkert øge mængden af deepfakes, der bliver produceret.”
Som for den politiske trussel, der faktisk ikke så mange tilfælde, hvor deepfakes har ændret sig en politisk resultat.
De eneste to er nævnt i rapporten, der skete i Gabon og Malaysia. Tilfældet i Malaysia genereret en sex-video, der involverer en minister, mens den hændelse, der påvirker Gabon, der er involveret en video udgivet af regeringen i dens præsident Ali Bongo Ondimba efter han havde ramt af et slagtilfælde.
Ajder mener, at den politiske trussel i øjeblikket er i “nær fremtid”, men hævder, at idéen om en deepfake er allerede destabiliserende politiske processer.
“Jeg vil sige, deepfakes, internetsikkerhed, og de politiske programmer udgøre en meget alvorlig kortsigtede risici, som vi er nødt til at forberede sig til nu, selv om de ikke forårsager total kaos lige nu i den måde, nogle mennesker måske tror,” sagde han.
Mere om deepfakes og sikkerhed
Googles krig mod deepfakes: Som valget væve, det deler væld af AI-forfalsket videoer
Facebook, Microsoft: Vi vil betale $10m for teknisk til at spotte deepfake videoerGlemme, e-mail: Svindlere bruger CEO stemme “deepfakes’ con arbejdstagere i ledninger kontant‘Deepfake’ app Zao gnister store bekymringer vedrørende privatlivets fred i KinaAI, quantum computing og 5G kunne gøre kriminelle mere farlig end nogensinde, advarer politietSamsung bruger AI til at omdanne billeder til at tale hoved videoerFacebook er virkeligheden-brikker tog AI til at opdage “dybt falske” videoerDen lurende fare for deepfakes TechRepublicDisse deepfakes af Bill Hader er helt skræmmende, CNET
Relaterede Emner:
Regeringen – OS
Digital Transformation
CXO
Tingenes Internet
Innovation
Virksomhedens Software