AMERIKANSKE politikere er i stigende grad bekymret for, om deepfakes — en ny type AI-assisteret video-redigering, der skaber realistiske resultater med en minimal indsats. I går, en trio bestående af lovgivere sendt et brev til Direktør for den Nationale Efterretningstjeneste, Dan Frakker, beder ham om at vurdere den trussel, at den nationale sikkerhed ved denne nye form for fakery.
Brevet siger, at “hyper-realistiske digitale kopier” for at vise overbevisende skildringer af personer at gøre eller sige ting, de aldrig gjorde” kunne bruges til afpresning og misinformation. “Så dybt falske teknologien bliver mere avanceret og mere tilgængeligt, kunne det udgøre en trussel mod Usa den offentlige diskurs, og den nationale sikkerhed,” siger brev underskrivere, Hus repræsentanter Adam Schiff (D-CA), Stephanie Murphy (D-FL), og Carlos Curbelo (R-FL).
Deepfakes har potentiale til afpresning, misinformation, og mere
Trioen vil efterretningstjenester til at producere en rapport, der indeholder beskrivelser af, når “bekræftet eller mistænkt” deepfakes er blevet produceret af udenlandske enkeltpersoner (der er ingen aktuelle eksempler på dette), og at foreslå potentielle modforanstaltninger.
I en pressemeddelelse, Curbelo sagde: “Dybt forfalskninger har potentialet til at forstyrre alle aspekter af vores samfund og udløse farlige internationale og indenlandske konsekvenser […] Som med enhver trussel, vores Efterretningstjenester skal være forberedt på at bekæmpe dybt forfalskninger, være på vagt over for dem, og står klar til at beskytte vores nation og det Amerikanske folk.”
Dette er ikke første gang, lovgivere har rejst dette spørgsmål. Tidligere i år, senatorer, Mark Warner (D-VA) og Marco Rubio (R-FL) advarede om, at deepfakes bør behandles som en national sikkerhedstrussel. I en tale, Rubio sagde teknologi kan effektivisere misinformationskampagner ledet af fremmede magter, fremhæver Rusland som en særlig trussel.
“Jeg kender til en kendsgerning, at den russiske Føderation på kommando af Vladimir Putin har forsøgt at skabe grobund for ustabilitet og kaos i Amerikansk politik i 2016,” sagde Rubio. “De gjorde det gennem Twitter bots, og de gjorde det gennem et par andre foranstaltninger, der vil i stigende grad komme til at lette. Men de kunne ikke bruge det. Forestil dig at bruge denne. Forestil dig at fixe dette ved et valg.”
Deepfakes først kom i forgrunden i 2016, når brugere på Reddit i gang ved hjælp af banebrydende AI-forskning for at indsætte ansigter af berømtheder på porno. Udtrykket i sig selv ikke henviser til en bestemt forskning, men er et spil, der kombinerer “dyb læring” med “forfalskninger.” Udtrykket blev første gang brugt af en Reddit-bruger, men er langsomt ved at blive synonymt med en bred vifte af AI redigering af teknologi. Sådanne værktøjer kan forvandle mennesker til virtuelle dukker, synkronisering deres mund med en andens tale, eller bare gøre dem danse som en pro.
En række organisationer, herunder universitets laboratorier, nystartede virksomheder, og endda dele af den militære, er ved at undersøge mulighederne for at detektere deepfakes. Disse omfatter metoder som uregelmæssige pletter blinke mønstre eller urealistisk hud tone.
Men forskerne er enige om, at der ikke er nogen enkelt metode, og at uanset hvad deepfake-spotting værktøj er skabt, vil snart blive lokket af nye versioner af teknologi. I hvert fald, selv om der var en nem måde at få øje på deepfakes, er det ikke nødvendigvis ville stoppe med at teknologien bliver brugt ondskabsfuldt. Vi ved, at der fra spredning af falske nyheder på netværk som Facebook. Selv om det kan være let modbevises, kan det stadig overbevise dem, der ønsker at tro.
På trods af disse udfordringer, at få regeringen, der er involveret er opmuntrende. “Dette er et konstruktivt skridt,” Stewart Baker, en tidligere general counsel for National Security Agency, fortalte Washington Post. “Det er én ting for akademikere og teknikere at sige, at deepfakes er et problem, er en anden for efterretningstjenester at sige det samme. Det gør det vedrører noget, at Kongressen kan henvende sig, uden frygt for at blive andet-at gætte på, hvor stort problemet er.”