Deepfake tech er primært bliver brugt til porno og kvinder er de største ofre
Deepfakes udgør en alvorlig trussel mod demokratiet i det lange løb, men kvinder er tilbøjelige til at lide for det første, en ny undersøgelse siger.
AWS har kastet sin vægt bag den kommende Deepfake Opdagelse Udfordring, en konkurrence med en $10m præmiepulje, at Microsoft og Facebook annoncerede i September.
Facebook er at bidrage til at skabe et stort datasæt af deepfake videoer til konkurrencen, som har til formål at afdække nye teknikker til at opdage video, der er blevet manipuleret med AI og at udvikle systemer til benchmark opdagelse teknologier.
Cloud gigant AWS på mandag meddelt, at den vil tilbyde op til $1m i AWS kreditter i løbet af de næste to år mod den udfordring, som starter i December og kører frem til slutningen af Marts 2020. Initiativet er bakket op af Facebook, Microsoft, Partnerskab om AI, og flere universiteter, herunder på MIT.
Initiativet kommer midt i en øget bekymring for, at deepfakes og, mere generelt, misinformation på sociale netværk kan bruges til at manipulere med den offentlige mening foran OS 2020 præsidentvalget tidsplan for November.
Facebook, for eksempel i denne uge lancerede Facebook Beskytte til at hjælpe kandidater, folkevalgte og offentligt ansatte aktivere to-faktor-autentificering for offentliggørelse Facebook Side oplysninger.
Det er også for nylig blevet suspenderet tusindvis af apps, for at undgå en gentagelse af Cambridge Analytica skandale, som kan have påvirket resultatet af 2016 AMERIKANSKE præsidentvalg.
Deltagerne i Deepfake Opdagelse Udfordring vil blive givet adgang til et datasæt for at træne deres modeller, og derefter nødt til at indsende kode til en ‘black-box’ miljø for test. Og at gøre, at forskere kommer til at have adgang til compute magt, opbevaring og machine-learning værktøjer, der AWS har.
Amazon siger, at det vil være vært for fuld konkurrence datasæt, når den bliver tilgængelig senere på året. Det er også at give Amazon machine-learning eksperter til at hjælpe teams med at opbygge deres opdagelse modeller.
“Vi ønsker at sikre adgang til denne data til et mangfoldigt sæt af deltagere med forskellige perspektiver til at hjælpe med at udvikle de bedst mulige løsninger til at bekæmpe det voksende problem med deepfakes,” AWS sagde.
Deepfakes er set som farlige, dels fordi de ikke kræver nogen færdigheder til at producere, tak til smartphone-apps, der kan gøre et godt nok job at narre mennesker med falske video. På kort sigt, deepfakes kunne bruges til at påvirke den offentlige mening, men på lang sigt, deepfakes kunne undergrave tilliden til alle oplysninger.
Selve projektet kommer med visse risici. Da projektet bemærker i en FAQ, der er en risiko for, at ondsindede aktører, der forsøger at udnytte den datasæt Facebook er at skabe samt den kode, som deltagerne skaber.
I henhold til AWS, den Deepfake Opdagelse Udfordring styregruppen vil dele den første 5,000 videoer af datasæt med forskere. Der vil være en “målrettet” teknisk arbejdsgruppe-session ved International Conference on Computer Vision (ICCV) i Seoul, der begynder den 27 oktober 2019.
Efter gennemførelse af due diligence, vil det frigive den fulde datasæt, og starte Deepfake Opdagelse Udfordring på verdens primære AI konference – NeurIPS eller Konferencen på Neurale Information Processing Systems – i December.
Google har ikke støttet Deepfake Opdagelse Udfordring, men det og Alfabet er Puslespil har bidraget med et datasæt på 3.000 manipulerede videoer med 28 aktører til FaceForensics benchmark, som sigter mod at blive en automatiseret benchmark for facial-manipulation afsløring. FaceForensics udgør en del af konkurrencens første 5,000 video datasæt.
Mere om deepfakes og sikkerhed
Deepfakes: For nu kvinder, ikke demokrati, er de største ofre
Facebook, Microsoft: Vi vil betale $10m for teknisk til at spotte deepfake videoer
Glem e-mail: Svindlere bruger CEO stemme “deepfakes’ con arbejdstagere i ledninger kontant‘Deepfake’ app Zao gnister store bekymringer vedrørende privatlivets fred i KinaAI, quantum computing og 5G kunne gøre kriminelle mere farlig end nogensinde, advarer politietSamsung bruger AI til at omdanne billeder til at tale hoved videoerFacebook er virkeligheden-brikker tog AI til at opdage “dybt falske” videoerDen lurende fare for deepfakes TechRepublicDisse deepfakes af Bill Hader er helt skræmmende, CNET
Relaterede Emner:
Amazon
Digital Transformation
CXO
Tingenes Internet
Innovation
Virksomhedens Software