Deepfakes har gjort en enorm indvirkning på verden af billed-, lyd- og videoredigering, så hvorfor involverer Adobe, som er en stor virksomhed i indholdsverdenen, ikke mere? Nå, det korte svar er, at det er det – men langsomt og forsigtigt. På virksomhedens årlige Max-konference i dag afslørede det et prototypeværktøj ved navn Project Morpheus, der demonstrerer både potentialet og problemerne ved at integrere deepfake-teknikker i sine produkter.
Project Morpheus er dybest set en videoversion af virksomhedens neurale filtre, introduceret i Photoshop sidste år. Disse filtre bruger maskinlæring til at justere et emnes udseende, justere ting som deres alder, hårfarve og ansigtsudtryk (for at ændre et overraskelsesblik til et af vrede, for eksempel). Morpheus bringer alle de samme justeringer til videoindhold, mens der tilføjes et par nye filtre, såsom evnen til at ændre ansigtshår og briller. Tænk på det som en karakterskabelsesskærm for mennesker.
Project Morpheus er et deepfake-værktøj, selvom Adobe ikke vil kalde det det
Resultaterne er bestemt ikke fejlfri og er meget begrænset i omfang i forhold til den bredere verden af deepfakes. Du kan kun lave små, forudbestemte justeringer af udseendet af personer, der vender mod kameraet, og du kan for eksempel ikke gøre ting som ansigtsbytte. Men kvaliteten forbedres hurtigt, og selvom funktionen kun er en prototype indtil videre uden nogen garanti for, at den vil blive vist i Adobe-software, er det helt klart noget, virksomheden undersøger seriøst.
Hvad Project Morpheus også er, er dog et deepfake-værktøj – hvilket potentielt er et problem. En stor en. Fordi deepfakes og alt, hvad der er forbundet med dem – fra pornografi uden samtykke til politisk propaganda – ikke ligefrem er godt for forretninger.
Nu, i betragtning af den løshed, som vi definerer deepfakes med i disse dage, har Adobe uden tvivl lavet sådanne værktøjer i årevis. Disse inkluderer de førnævnte neurale filtre samt mere funktionelle værktøjer som AI-assisteret maskering og segmentering. Men Project Morpheus er naturligvis meget mere deepfakey end virksomhedens tidligere indsats. Det handler om at redigere videooptagelser af mennesker – på måder, som mange sandsynligvis vil finde uhyggelige eller manipulerende.
At ændre en andens ansigtsudtryk i en video kan f.eks. blive brugt af en instruktør til at slå et dårligt op, men det kan også bruges til at skabe politisk propaganda – f.eks. få en fængslet dissident til at fremstå afslappet i retsoptagelser, når de virkelig bliver sultet ihjel. Det er, hvad policy wonks omtaler som en “teknologi med dobbelt anvendelse”, hvilket er en hurtig måde at sige, at teknologien er “nogle gange måske god, nogle gange måske lort.”
Dette er uden tvivl grunden til, at Adobe ikke en gang brugte ordet “deepfake” til at beskrive teknologien i noget af det briefingmateriale, det sendte til The Verge. Og da vi spurgte, hvorfor dette var, svarede virksomheden ikke direkte, men gav i stedet et langt svar om, hvor alvorligt det tager truslerne fra deepfakes, og hvad det gør ved dem.
Adobes indsats på disse områder virker involveret og oprigtig (de er for det meste fokuseret på indholdsgodkendelsesordninger), men de afbøder ikke et kommercielt problem, som virksomheden står over for: at de samme deepfake-værktøjer, der ville være mest nyttige for dets kundebase, er de som også er potentielt mest ødelæggende.
Deepfakes udgør et vanskeligt problem for Adobes forretningsstrategi
Tag for eksempel evnen til at indsætte en andens ansigt på en andens krop – formentlig den ur-deepfake-applikation, der startede al denne besvær. Du vil måske have sådan en ansigtsbytning af legitime årsager, som at licensere Bruce Willis' lighed til en række mobilannoncer i Rusland. Men du laver måske også pornografi uden samtykke for at chikanere, intimidere eller afpresse nogen (langt den mest almindelige ondsindede anvendelse af denne teknologi).
Uanset din hensigt, hvis du vil skabe denne form for deepfake, har du masser af muligheder, hvoraf ingen kommer fra Adobe. Du kan leje et boutique-studie med deepfake-indhold, skændes med noget open source-software, eller hvis du ikke har noget imod, at dine ansigtsbytter er begrænset til forhåndsgodkendte memes og gifs, kan du downloade en app. Hvad du ikke kan gøre, er at starte Adobe Premiere eller After Effects. Så vil det ændre sig i fremtiden?
Det er umuligt at sige med sikkerhed, men jeg tror bestemt, det er en mulighed. Adobe overlevede trods alt, at “Photoshopped” blev en forkortelse for digitalt redigerede billeder generelt, og ofte med negative konnotationer. Og på godt og ondt mister deepfakes langsomt deres egne negative associationer, efterhånden som de bliver adopteret i mere almindelige projekter. Project Morpheus er et dybt falsk værktøj med nogle seriøse autoværn (du kan kun foretage de foreskrevne ændringer, og der er f.eks. ingen ansigtsbytte), men det viser, at Adobe er fast besluttet på at udforske dette område, formentlig samtidig med at man måler reaktioner fra industrien og offentligheden.
Det er passende, at da “deepfake” har erstattet “Photoshopped” som den almindelige anklage for falskneri i den offentlige sfære, føler Adobe sig måske udenfor. Project Morpheus antyder, at det meget vel snart kan indhente det.