Facebook tilbyder $10 millioner i støtte til forskning for teknisk til at opdage deepfake videoer
Facebook vil skabe sin egen deepfake videoer til at hjælpe med at opbygge et system, der kan opdage dem.
Staten Californien har underskrevet et sæt love for at slå ned på brugen af deepfake teknologier i den politiske debat og pornografisk indhold.
Udtrykket “deepfake’ er relativt nye, men på trods af sin spæde fase, det har fået opmærksomhed fra lovgivere. Deepfaking er brugen af teknologi, herunder machine learning algoritmer, eller hvad vi i dag klassificerer som kunstig intelligens (AI) for at indsætte falske indhold i videoer eller til at manipulere med lyd, herunder stemme mønstre.
Nogle gange, deepfakes anvendes udelukkende til satire, såsom at stikke sjov på regeringens embedsmænd, og den aktuelle politiske landskab.
Men AII-manipuleret indhold, der kan tage et mørkt igen, når de anvendes til at skabe politisk propaganda i stand til at narre offentligheden.
Pornografi, også er blevet til et nyt areal til brug for deepfaking. En nylig undersøgelse i praksis fundet, at kvinder udgør størstedelen af ofrene i deepfake porno, også kendt som “ufrivillig porno.”
I disse tilfælde, deres ansigter er indsat i eksisterende pornografisk indhold, som kan konsekvenserne være de samme i den virkelige verden for at hævne porno — en ydmyget offer og påvirket familie, venner og arbejdspladser.
Som tidligere rapporteret med ZDNet, Deeptrace rapport siger, at generativ kontradiktorisk netværk (GANs) bliver brugt til at generere deepfakes og antallet af registrerede deepfake videoer er steget fra 8.000 i December 2018 til over 14,600 i skrivende stund. I alt 96 procent af alle deepfake videoer er pornografisk karakter.
Se også: Deepfakes: For nu kvinder er de største offer, ikke demokrati
Californiens Com. Gavin Newsom har underskrevet to love, Montering Regninger 730 og 602, som forberedelse til kampen mod deepfakes og de potentielle politiske konsekvenser af indhold manipulation kan få for fremtidige valg.
Den første regning, AB730, foreslår et forbud mod produktion og distribution af “skadelige” eller “væsentligt vildledende” deepfake politisk materiale, herunder overlejring af billeder på kampagne-materiale, såsom lyd og video, i det mindste indtil 2023.
“Dette lovforslag vil […] forbyde en person, udvalg, eller andre enheder, inden 60 dage efter et valg, hvor en kandidat til elektiv kontor vil blive vist på stemmesedlen, ved at distribuere med de faktiske ondskab væsentligt vildledende lyd-eller visuelle medier for den kandidat, med den hensigt at skade den kandidat’ s omdømme eller til at bedrage en vælgere til at stemme for eller imod en kandidat, medmindre de medier, der indeholder en oplysning om, at medierne er blevet manipuleret,” regningen lyder.
Men kvoter er lavet for deepfake materielle skabelse, når satire eller parodi er involveret, og så længe, som det er blevet gjort klart, at sådant indhold er blevet manipuleret gennem offentliggørelse.
Det andet lovforslag, AB602, er fokuseret på at give borgerne ret til at kæmpe tilbage, hvis de bliver ofre for deepfake manipulation, især i tilfælde af seksuelt eksplicit materiale.
CNET: EN ny Instagram-funktionen hjælper dig med at identificere phishing-e-mails
Mens den eksisterende lovgivning ikke indeholder en juridisk rute for dem, hvis private billeder blev delt uden samtykke, som til formålet hævn porno, regningen tilføjer en potentiel årsag til handling mod dem, der “opret og bevidst oplyser, seksuelt eksplicit materiale, hvis personen ved eller med rimelighed burde have vidst, at den afbildede person ikke giver sit samtykke til dets skabelse eller videregivelse af oplysninger”, samt for dem, der deler “seksuelt eksplicit materiale, som den pågældende ikke selv oprette” eller samtykke til.
Konsekvenserne af deepfake indholdet er ikke gået ubemærket af teknologi leverandører, enten.
Facebook og Microsoft har annonceret et nyt projekt i September kaldet Deepfake Opdagelse Udfordring, dinglende belønning og tilskud til en værdi af $10 millioner til akademikere, der er villige til at pitche og udvikle løsninger til automatisk registrering af deepfake videoer.
For at give et datasæt for akademikere til at arbejde med social networking gigant har forpligtet sig til at betale aktører til at udvikle både deepfake video og lyd.
Google er også ivrige efter at komme i gang. I samme måned, tech gigant udgivet en database, der indeholder 3,000 AI-manipulerede videoer til akademikere, der også gjort brug af betalte skuespillere.
TechRepublic: Hvordan at oprette og eksportere en GPG keypair på macOS
Databasen har været bidraget til FaceForensics benchmark, en standard, der er udviklet af det Tekniske Universitet i München og Universitetet Federico II af Napoli, med håb om at blive accepteret benchmark for at opdage deepfakes i fremtiden.
Tidligere og relaterede dækning
Googles krig mod deepfakes: Som valget væve, det deler væld af AI-forfalsket videoer
Glem e-mail: Svindlere bruger CEO stemme “deepfakes’ con arbejdstagere i ledninger kontant
Facebook, Microsoft: Vi vil betale $10m for teknisk til at spotte deepfake videoer
Har du et tip? Komme i kontakt sikkert via WhatsApp | Signal på +447713 025 499, eller over på Keybase: charlie0
Relaterede Emner:
Sikkerhed-TV
Data Management
CXO
Datacentre