Deepfakes haben einen großen Einfluss auf die Welt der Bild-, Audio- und Videobearbeitung gehabt. Warum also beteiligt sich Adobe, der Konzern der Welt der Inhalte, nicht stärker? Nun, die kurze Antwort ist, dass es so ist – aber langsam und vorsichtig. Auf der jährlichen Max-Konferenz des Unternehmens stellte das Unternehmen heute ein Prototyp-Tool namens Project Morpheus vor, das sowohl das Potenzial als auch die Probleme der Integration von Deepfake-Techniken in seine Produkte demonstriert.
Project Morpheus ist im Grunde eine Videoversion der Neural Filter des Unternehmens, die letztes Jahr in Photoshop eingeführt wurden. Diese Filter verwenden maschinelles Lernen, um das Aussehen einer Person anzupassen, indem sie Dinge wie Alter, Haarfarbe und Gesichtsausdruck optimieren (um beispielsweise einen überraschten Blick in einen wütenden zu verwandeln). Morpheus bietet all diese Anpassungen an Videoinhalten und fügt gleichzeitig einige neue Filter hinzu, wie die Möglichkeit, Gesichtsbehaarung und Brille zu ändern. Betrachten Sie es als einen Bildschirm zur Charaktererstellung für Menschen.
Project Morpheus ist ein Deepfake-Tool, obwohl Adobe es nicht so nennen wird
Die Ergebnisse sind definitiv nicht fehlerfrei und in Bezug auf die Welt der Deepfakes sehr begrenzt. Sie können nur kleine, vorher festgelegte Änderungen am Aussehen von Personen vornehmen, die vor der Kamera stehen, und zum Beispiel keine Dinge wie Gesichtstausch tun. Aber die Qualität wird sich schnell verbessern, und obwohl die Funktion vorerst nur ein Prototyp ist, ohne dass garantiert wird, dass sie in Adobe-Software erscheint, untersucht das Unternehmen dies eindeutig ernsthaft.
Was Project Morpheus jedoch auch ist, ist ein Deepfake-Tool – was möglicherweise ein Problem darstellt. Ein großer. Denn Deepfakes und alles, was damit verbunden ist – von nicht einvernehmlicher Pornografie bis hin zu politischer Propaganda – sind nicht gerade gut fürs Geschäft.
Angesichts der Lockerheit, mit der wir Deepfakes heutzutage definieren, stellt Adobe solche Tools wohl seit Jahren her. Dazu gehören die oben genannten neuronalen Filter sowie funktionellere Tools wie KI-unterstützte Maskierung und Segmentierung. Aber Project Morpheus ist offensichtlich viel deepfakey als die früheren Bemühungen des Unternehmens. Es geht darum, Videomaterial von Menschen zu bearbeiten – auf eine Weise, die viele wahrscheinlich unheimlich oder manipulativ finden werden.
Das Ändern des Gesichtsausdrucks einer Person in einem Video kann beispielsweise von einem Regisseur verwendet werden, um eine schlechte Einstellung zu unterstreichen, aber es könnte auch verwendet werden, um politische Propaganda zu erzeugen – z. einen inhaftierten Dissidenten in Gerichtsaufnahmen entspannt erscheinen zu lassen, wenn er wirklich verhungert ist. Es ist das, was Policy-Winks als „Dual-Use-Technologie“ bezeichnen, was eine bissige Art ist, zu sagen, dass die Technologie „manchmal vielleicht gut, manchmal vielleicht scheiße“ ist.
Dies ist zweifellos der Grund, warum Adobe in keinem der an The Verge gesendeten Informationsmaterialien das Wort „Deepfake“ verwendet hat, um die Technologie zu beschreiben. Und als wir fragten, warum das so sei, antwortete das Unternehmen nicht direkt, sondern gab eine lange Antwort darauf, wie ernst es die Bedrohungen durch Deepfakes nimmt und was es dagegen tut.
Die Bemühungen von Adobe in diesen Bereichen scheinen engagiert und aufrichtig zu sein (sie konzentrieren sich hauptsächlich auf Schemata zur Inhaltsauthentifizierung), aber sie mildern kein kommerzielles Problem, mit dem das Unternehmen konfrontiert ist: dass die gleichen Deepfake-Tools für seinen Kundenstamm am nützlichsten sind die auch potenziell am zerstörerischsten sind.
Deepfakes stellen ein kniffliges Problem für die Geschäftsstrategie von Adobe dar
Nehmen Sie zum Beispiel die Möglichkeit, das Gesicht einer anderen Person auf den Körper einer anderen Person zu kleben – wohl die Ur-Deepfake-Anwendung, die all diese Mühe auslöste. Möglicherweise möchten Sie einen solchen Gesichtstausch aus legitimen Gründen, z. Sie können jedoch auch nicht einvernehmliche Pornografie erstellen, um jemanden zu belästigen, einzuschüchtern oder zu erpressen (bei weitem die häufigste bösartige Anwendung dieser Technologie).
Unabhängig von Ihrer Absicht haben Sie, wenn Sie diese Art von Deepfake erstellen möchten, viele Optionen, von denen keine von Adobe stammt. Sie können ein Boutique-Deepfake-Content-Studio beauftragen, sich mit Open-Source-Software herumschlagen oder, wenn es Ihnen nichts ausmacht, dass Ihre Face-Swaps auf vorab genehmigte Memes und Gifs beschränkt sind, eine App herunterladen. Was Sie nicht tun können, ist Adobe Premiere oder After Effects zu starten. Wird sich das also in Zukunft ändern?
Das kann ich nicht mit Sicherheit sagen, aber ich denke, es ist definitiv eine Möglichkeit. Immerhin hat Adobe das Aufkommen von „Photoshopped“ überlebt, das allgemein zu einer Abkürzung für digital bearbeitete Bilder wurde, und dies oft mit negativen Konnotationen. Und zum Guten oder zum Schlechten verlieren Deepfakes langsam ihre eigenen negativen Assoziationen, da sie in mehr Mainstream-Projekten übernommen werden. Project Morpheus ist ein Deepfake-Tool mit einigen ernsthaften Leitplanken (Sie können beispielsweise nur vorgeschriebene Änderungen vornehmen und es gibt kein Face-Swapping), aber es zeigt, dass Adobe entschlossen ist, dieses Gebiet zu erkunden, vermutlich während die Reaktionen der Industrie und der Öffentlichkeit gemessen werden.
Da “Deepfake” “Photoshopped” als Vorwurf der Fälschung in der Öffentlichkeit ersetzt hat, passt es, dass Adobe sich vielleicht ausgeschlossen fühlt. Project Morpheus schlägt vor, dass es bald aufholen könnte.