För OSS politiker blir allt mer orolig deepfakes — en ny typ av AI-assisted videoredigering som skapar verklighetstrogna resultat med minimal ansträngning. Igår, en trio av lagstiftare skickade ett brev till Director of National Intelligence, Dan Rockar, och bad honom att bedöma hotet mot den nationella säkerheten av denna nya form av fakery.
I brevet säger “hyper-realistiska digitala förfalskningar visar övertygande skildringar av individer att göra eller säga saker som de aldrig gjorde” kan användas för utpressning och desinformation. “Så djupt falska tekniken blir mer avancerad och mer tillgänglig, kan det utgöra ett hot mot Usa den offentliga diskursen och den nationella säkerheten”, säger brevet är undertecknat, Hus företrädare Adam Schiff (D-CA), Stephanie Murphy (D-FL), och Carlos Curbelo (R-FL).
Deepfakes har potentialen för utpressning, desinformation, och mer
Trion vill underrättelsetjänsten för att producera en rapport som innehåller beskrivningar av när “bekräftade eller misstänkta” deepfakes har producerats av utländska personer (det finns några aktuella exempel på detta), och att föreslå möjliga motåtgärder.
I ett pressmeddelande Curbelo sade: “Djupt förfalskningar har potential att störa varje aspekt av vårt samhälle och utlösa farliga internationella och inhemska konsekvenser […] Som med alla hot, vår Intelligens Samhället måste vara beredda att bekämpa djupt förfalskningar, att vara vaksamma mot dem, och stå redo för att skydda vår nation och det Amerikanska folket.”
Detta är inte första gången som lagstiftare har tagit upp denna fråga. Tidigare i år, senatorer Mark Warner (D-VA) och Marco Rubio (R-FL) varnade för att deepfakes bör behandlas som en nationell säkerhetsrisk. I ett tal, sade Rubio tekniken kan överladda desinformation kampanjer led av utländska makter, peka ut Ryssland som ett särskilt hot.
“Jag vet för ett faktum att den ryska Federationen på kommando av Vladimir Putin försökte så instabilitet och kaos i Amerikansk politik under 2016”, säger Rubio. “De gjorde det genom Twitter robotar och de gjorde det genom ett par andra åtgärder som kommer allt komma fram i ljuset. Men de ville inte använda detta. Föreställ dig att använda detta. Tänk dig att injicera detta i ett val.”
Deepfakes först kom till framträdande i och med 2016, då användare på Reddit började använda banbrytande AI-forskning för att klistra in bilder på kändisar på porr. Själva termen hänvisar inte till någon särskild forskning, men är en kappsäck som kombinerar en “deep learning” med “förfalskningar.” Uttrycket användes först av en Reddit-användare, men är sakta på väg att bli synonymt med ett brett utbud av AI redigering teknik. Sådana verktyg kan förvandla människor till virtuella dockor, synkronisering deras munnar med någon annans tal, eller bara få dem att dansa som ett proffs.
Ett antal organisationer, däribland universitet labs, starta företag, och även delar av de militära, är att undersöka olika sätt för att på ett tillförlitligt sätt identifiera deepfakes. Dessa inkluderar metoder som observation oregelbundet blinkande mönster eller orealistiska hudton.
Men forskare är överens om att det finns ingen enskild metod, och att oavsett deepfake-spotting verktyget är skapat kommer snart att bli lurad av nya versioner av tekniken. I alla fall, även om det var ett enkelt sätt att upptäcka deepfakes, skulle det inte nödvändigtvis stoppa den teknik som används på ett skadligt sätt. Vi vet att från och med spridningen av falska nyheter på nätverk som Facebook. Även om det kan vara lätt att motbevisa, det kan fortfarande övertyga dem som vill tro.
Trots dessa utmaningar, att få regeringen som deltar är positiva nyheter. “Detta är ett bra steg,” Stewart Baker, tidigare chefsjurist för National Security Agency, berättade för Washington Post. “Det är en sak för akademiker och tekniker för att säga att deepfakes är ett problem, en annan för underrättelsetjänsten att säga samma sak. Det gör den oro som något att Kongressen kan lösa utan rädsla för att vara andra gissade på hur stort problemet är.”