US-Politiker sind zunehmend besorgt über deepfakes — eine neue Art von AI-unterstützte video-Bearbeitung, schafft realistische Ergebnisse mit minimalem Aufwand. Gestern, ein trio der Gesetzgeber schickte einen Brief an den Direktor der National Intelligence, Dan Coats, die ihn bitten, zu beurteilen, die Bedrohung für die nationale Sicherheit durch diese neue form der Bluff machen könnten.
Der Brief sagt “hyper-realistische digitale Fälschungen” mit “überzeugenden Darstellungen von Personen tun oder sagen Dinge, die Sie nie getan”, könnte verwendet werden, für die Erpressung und Fehlinformationen. “Wie tief fake Technologie wird weiter Fortgeschritten und mehr zugänglich, es könnte eine Bedrohung für die Vereinigten Staaten im öffentlichen Diskurs und der nationalen Sicherheit”, sagen die Brief – Unterzeichner, Haus Vertreter Adam Schiff (D-CA), Stephanie Murphy (D-FL), und Carlos Curbelo (R-FL).
Deepfakes haben das Potenzial für Erpressung, Desinformation und vieles mehr
Das trio wollen die Geheimdienste einen Bericht erstellen, enthält Beschreibungen von als “bestätigt wurde oder vermutet wird” deepfakes produziert wurden, von ausländischen Personen (es gibt keine aktuelle Beispiele dafür), und schlagen mögliche Gegenmaßnahmen.
In einer Presseerklärung, Curbelo sagte: “Tief fakes haben das Potenzial zu stören, jede Facette unserer Gesellschaft auslösen und die gefährlichen internationalen und innenpolitischen Folgen […] Wie bei jeder Bedrohung unserer Intelligence Community muss vorbereitet werden, zur Bekämpfung von tief-Fälschungen, wachsam zu sein gegen Sie, und ist bereit, zum Schutz unserer nation und das amerikanische Volk.”
Dies ist nicht das erste mal der Gesetzgeber angehoben haben dieses Problem. Früher im Jahr, die Senatoren Mark Warner (D-VA) und Marco Rubio (R-FL) davor gewarnt, dass deepfakes behandelt werden sollte als eine Bedrohung der nationalen Sicherheit. In einer Rede, Rubio sagte, könnte die Technologie supercharge Fehlinformationen geführt, der durch ausländische Kräfte, Aussonderung Russland eine Besondere Bedrohung.
“Ich weiß, für eine Tatsache, dass die russische Föderation unter dem Kommando von Wladimir Putin versuchte, zu säen Instabilität und chaos in der amerikanischen Politik im Jahr 2016″, sagte Rubio. “Taten Sie das durch Twitter-bots, und Sie Taten das durch ein paar andere Maßnahmen, die die zunehmend ans Licht kommen. Hat Sie aber nicht. Vorstellen mit dieser. Stellen Sie sich die Injektion dieser in einer Wahl.”
Deepfakes kam zum ersten mal Prominenz in 2016, wenn die Nutzer auf Reddit begonnen, mit cutting-edge KI-Forschung zu kleben die Gesichter von prominenten auf Pornos. Der Begriff selbst bezieht sich nicht auf eine bestimmte Forschung, sondern ist ein Kunstwort, verbindet die “deep learning” mit “Fälschungen.” Der Satz wurde zuerst von einem Reddit-user, aber wird langsam zu einem Synonym für eine Breite Palette von KI-Bearbeitung-Technologie. Solche tools können wiederum die Menschen in virtuelle Puppen, synchronisieren Sie Ihre Münder mit jemand anderem Rede, oder nur die, Sie tanzen wie ein Profi.
Eine Reihe von Organisationen, einschließlich der Universität labs, Start-UPS, und sogar Teile des Militärs untersuchen die Wege, sicher zu erkennen deepfakes. Dazu gehören Methoden wie Schmierblutungen, unregelmäßigen blinken Muster oder unrealistisch Hautton.
Jedoch, die Forscher sind sich einig, dass es keine einzelne Methode, und dass alles, was deepfake-spotting-tool erstellt wird, wird bald betrogen, indem neue Versionen der Technologie. Jedenfalls, selbst wenn es eine einfache Möglichkeit zu erkennen, deepfakes, es würde nicht unbedingt aufhören, die Technologie verwendet werden, die in böser Absicht. Wir wissen, dass die Verbreitung von gefälschten Nachrichten auf Netzwerken wie Facebook. Auch wenn es leicht sein kann, widerlegt wird, kann Sie immer noch überzeugen, diejenigen, die glauben wollen.
Trotz dieser Herausforderungen, bekommen die Regierung, die beteiligten ist es ermutigende Nachrichten. “Dies ist ein konstruktiver Schritt”, Stewart Baker, ein ehemaliger general counsel für die National Security Agency, sagte Der Washington Post. “Es ist eine Sache für Akademiker und Techniker zu sagen, dass deepfakes sind ein problem, ein anderes für die intelligence community zu sagen, die gleiche. Es macht das etwas Sorge, dass der Kongress ansprechen können, ohne Angst, zweiten erraten, wie groß das problem ist.”