Deepfakes har gjort en enorm innvirkning på bilde-, lyd- og videoredigeringsverdenen, så hvorfor engasjerer ikke Adobe, bedriftens stormerke for innholdsverdenen, seg mer? Vel, det korte svaret er at det er det – men sakte og forsiktig. På selskapets årlige Max-konferanse i dag, avduket det et prototypeverktøy kalt Project Morpheus som demonstrerer både potensialet og problemene med å integrere deepfake-teknikker i produktene sine.
Project Morpheus er i utgangspunktet en videoversjon av selskapets nevrale filtre, introdusert i Photoshop i fjor. Disse filtrene bruker maskinlæring for å justere et motivs utseende, justere ting som alder, hårfarge og ansiktsuttrykk (for å endre et overraskelsesuttrykk til et sinne, for eksempel). Morpheus bringer alle de samme justeringene til videoinnhold mens han legger til noen få nye filtre, som muligheten til å endre ansiktshår og briller. Tenk på det som en karakterskapingsskjerm for mennesker.
Project Morpheus er et deepfake-verktøy, selv om Adobe ikke vil kalle det det
Resultatene er definitivt ikke feilfrie og har svært begrenset omfang i forhold til den bredere verden av deepfakes. Du kan bare gjøre små, forhåndsbestemte justeringer av utseendet til personer som vender mot kameraet, og du kan for eksempel ikke gjøre ting som ansiktsbytte. Men kvaliteten vil forbedres raskt, og selv om funksjonen foreløpig bare er en prototype uten noen garanti for at den vil vises i Adobe-programvare, er det helt klart noe selskapet undersøker seriøst.
Hva Project Morpheus også er, er imidlertid et deepfake-verktøy – som potensielt er et problem. En stor en. Fordi dype forfalskninger og alt som er forbundet med dem – fra pornografi uten samtykke til politisk propaganda – ikke akkurat er bra for virksomheten.
Nå, gitt løsheten som vi definerer deepfakes med i disse dager, har Adobe uten tvil laget slike verktøy i årevis. Disse inkluderer de nevnte nevrale filtrene, samt mer funksjonelle verktøy som AI-assistert maskering og segmentering. Men Project Morpheus er åpenbart mye mer deepfakey enn selskapets tidligere innsats. Det handler om å redigere videoopptak av mennesker – på måter som mange sannsynligvis vil finne uhyggelige eller manipulerende.
Å endre noens ansiktsuttrykk i en video, kan for eksempel bli brukt av en regissør til å lage et dårlig bilde, men det kan også brukes til å lage politisk propaganda – f.eks. få en fengslet dissident til å virke avslappet i rettsopptak når de virkelig blir sultet i hjel. Det er det policy-wonks refererer til som en “dobbeltbruksteknologi”, som er en rask måte å si at teknologien er “noen ganger kanskje bra, noen ganger kanskje dritt.”
Dette er uten tvil grunnen til at Adobe ikke en gang brukte ordet “deepfake” for å beskrive teknologien i noe av informasjonsmaterialet den sendte til The Verge. Og da vi spurte hvorfor dette var, svarte ikke selskapet direkte, men ga i stedet et langt svar om hvor seriøst det tar truslene fra deepfakes og hva det gjør med dem.
Adobes innsats på disse områdene virker involvert og oppriktig (de er for det meste fokusert på innholdsautentiseringsordninger), men de reduserer ikke et kommersielt problem selskapet står overfor: at de samme deepfake-verktøyene som vil være mest nyttige for kundebasen er de som også er potensielt mest ødeleggende.
Deepfakes utgjør et vanskelig problem for Adobes forretningsstrategi
Ta for eksempel muligheten til å lime inn noens ansikt på andres kropp – uten tvil den ur-deepfake-applikasjonen som startet all denne plagen. Du vil kanskje ha en slik ansiktsbytte av legitime grunner, som å lisensiere Bruce Willis’ likhet for en serie mobilannonser i Russland). Men du kan også lage pornografi uten samtykke for å trakassere, skremme eller utpresse noen (den desidert vanligste ondsinnede bruken av denne teknologien).
Uavhengig av intensjonen din, hvis du ønsker å lage denne typen deepfake, har du mange alternativer, ingen av dem kommer fra Adobe. Du kan leie et boutique deepfake-innholdsstudio, krangle med åpen kildekode-programvare, eller, hvis du ikke har noe imot at ansiktsbyttene dine er begrenset til forhåndsgodkjente memes og gifs, kan du laste ned en app. Det du ikke kan gjøre er å starte Adobe Premiere eller After Effects. Så vil det endre seg i fremtiden?
Det er umulig å si sikkert, men jeg tror det definitivt er en mulighet. Tross alt overlevde Adobe at «Photoshopped» ble en forkortelse for digitalt redigerte bilder generelt, og ofte med negative konnotasjoner. Og på godt og vondt mister deepfakes sakte sine egne negative assosiasjoner ettersom de blir adoptert i mer vanlige prosjekter. Project Morpheus er et dypt falskt verktøy med noen seriøse rekkverk (du kan bare gjøre foreskrevne endringer og det er ingen ansiktsbytte, for eksempel), men det viser at Adobe er fast bestemt på å utforske dette territoriet, antagelig mens du måler reaksjoner fra industrien og publikum.
Det er på sin plass at ettersom “deepfake” har erstattet “Photoshopped” som den vanligste anklagen om falskhet i det offentlige rom, føler Adobe seg kanskje utenfor. Project Morpheus antyder at det kan ta igjen snart.