AMERIKAANSE politici worden steeds meer zorgen over deepfakes — een nieuw type van AI-ondersteunde video ‘ s bewerken dat schept realistische resultaten met minimale inspanning. Gisteren, een trio van wetgevers een brief gestuurd naar de Directeur van Nationale inlichtingen, Dan Lagen, en vraagt hem om te beoordelen wat de bedreiging van de nationale veiligheid door deze nieuwe vorm van imitatie.
De brief zegt “hyper-realistische digitale vervalsingen” met “overtuigende afbeeldingen van personen doen of zeggen dingen die ze nooit eerder deed” kan worden gebruikt voor chantage en desinformatie. “Zo diep nep-technologie wordt meer geavanceerde en meer toegankelijk, het kan een bedreiging vormen voor de Verenigde Staten in het publieke debat en de nationale veiligheid”, zeggen de ondertekenaars van de brief, het Huis van vertegenwoordigers Adam Schiff (D-CA), Stephanie Murphy (D-FL) en Carlos Curbelo (R-FL).
Deepfakes hebben het potentieel voor chantage, desinformatie, en meer
Het trio wil de intelligence community voor het produceren van een rapport met beschrijvingen van toen “bevestigde of vermeende” deepfakes zijn geproduceerd door buitenlandse personen (er zijn geen actuele voorbeelden van deze), en om te wijzen op een mogelijke tegenmaatregelen.
In een persverklaring, Curbelo zei: “Diep fakes hebben het potentieel om te verstoren elk facet van onze samenleving en leiden tot gevaarlijke internationale en binnenlandse gevolgen […] net Als een bedreiging, onze Intelligentie Gemeenschap moet bereid zijn te bestrijden diep fakes, waakzaam te zijn tegen hen, en staan klaar om onze natie te beschermen en het Amerikaanse volk.”
Dit is niet de eerste keer wetgevers hebben gebracht van dit probleem. Eerder in het jaar, senatoren Mark Warner (D-VA) en Marco Rubio (R-FLORIDA) al gewaarschuwd dat deepfakes moet behandeld worden als een bedreiging van de nationale veiligheid. In een toespraak, Rubio zei de technologie zou een boost desinformatie campagnes geleid door buitenlandse mogendheden, single uit Rusland als een bepaalde dreiging.
“Ik weet voor een feit dat de russische Federatie op het commando van Vladimir Poetin probeerde te zaaien instabiliteit en chaos in de Amerikaanse politiek in 2016,” zei Rubio. “Ze deden dat via Twitter bots en ze deden dat door middel van een paar van de andere maatregelen die in toenemende mate aan het licht komen. Maar ze niet gebruiken. Stel je voor met behulp van deze. Stel je voor het injecteren van deze in een verkiezing.”
Deepfakes kwam voor het eerst bekendheid in 2016, wanneer gebruikers op Reddit slag met cutting-edge AI onderzoek te plakken in de gezichten van beroemdheden op porno. De term zelf niet verwijzen naar een bepaald onderzoek, maar is een portmanteau dat een combinatie van “deep learning” met “vervalsingen.” De uitdrukking werd voor het eerst gebruikt door een Reddit-gebruiker, maar is langzamerhand synoniem met een breed scala van AI bewerken van technologie. Dergelijke tools zet mensen in virtuele poppen, het synchroniseren van hun mond met iemand anders spreken, of net waardoor ze dansen als een pro.
Een aantal organisaties, waaronder universitaire laboratoria, startups, en zelfs delen van de militair, zijn het onderzoeken van manieren om het betrouwbaar detecteren deepfakes. Deze omvatten methoden zoals het spotten van onregelmatig knippert patronen of onrealistisch huid.
Echter, onderzoekers het erover eens dat er geen enkele methode, en dat wat deepfake-het spotten van de tool is gemaakt zal binnenkort worden misleid door nieuwe versies van de technologie. In ieder geval, zelfs als er een gemakkelijke manier om de spot deepfakes, het zou niet per se stoppen met de technologie die wordt gebruikt met kwade bedoelingen. We weten dat van het verspreiden van vals nieuws op netwerken zoals Facebook. Zelfs als het gemakkelijk kan worden weerlegd, kan het nog steeds overtuigen degenen die willen geloven.
Ondanks deze uitdagingen, krijgen van de overheid betrokken is bemoedigend nieuws. “Dit is een constructieve stap,” Stewart Baker, een voormalige generaal van de National Security Agency, zei tegen De Washington Post. “Het is één ding voor wetenschappers en techneuten om te zeggen dat deepfakes zijn een probleem, een ander voor de intelligence community om hetzelfde te zeggen. Het maakt de zorg iets dat Congres adres zonder angst tweede geraden hoe groot het probleem is.”