Adobe har byggt ett deepfake-verktyg, men det vet inte vad det ska göra med det

0
25

Deepfakes har haft en enorm inverkan på bild-, ljud- och videoredigeringsvärlden, så varför engagerar sig inte Adobe, företagsvärlden inom innehållsvärlden, mer? Tja, det korta svaret är att det är det – men långsamt och försiktigt. Vid företagets årliga Max-konferens idag presenterade det ett prototypverktyg vid namn Project Morpheus som visar både potentialen och problemen med att integrera deepfake-tekniker i sina produkter.

Project Morpheus är i grunden en videoversion av företagets neurala filter, som introducerades i Photoshop förra året. Dessa filter använder maskininlärning för att justera ett motivs utseende, justera saker som deras ålder, hårfärg och ansiktsuttryck (för att till exempel ändra en överraskningsblick till en ilska). Morpheus tar med alla samma justeringar av videoinnehåll samtidigt som det lägger till några nya filter, som möjligheten att byta ansiktshår och glasögon. Se det som en skärm för att skapa karaktärer för människor.

Project Morpheus är ett deepfake-verktyg, även om Adobe inte kommer att kalla det så

Resultaten är definitivt inte felfria och har mycket begränsad omfattning i förhållande till den bredare världen av deepfakes. Du kan bara göra små, förbestämda justeringar av utseendet på personer som är vända mot kameran och kan inte göra saker som att byta ansikten, till exempel. Men kvaliteten kommer att förbättras snabbt, och även om funktionen bara är en prototyp för närvarande utan någon garanti att den kommer att visas i Adobes programvara, är det helt klart något som företaget undersöker på allvar.

Vad Project Morpheus också är är dock ett deepfake-verktyg – vilket potentiellt är ett problem. En stor en. För deepfakes och allt som är förknippat med dem – från pornografi utan samtycke till politisk propaganda – är inte direkt bra för affärer.

Nu, med tanke på den löshet med vilken vi definierar deepfakes nuförtiden, har Adobe utan tvekan gjort sådana verktyg i flera år. Dessa inkluderar de tidigare nämnda neurala filtren, såväl som mer funktionella verktyg som AI-assisterad maskering och segmentering. Men Project Morpheus är uppenbarligen mycket mer deepfakey än företagets tidigare ansträngningar. Det handlar om att redigera videofilmer av människor – på sätt som många förmodligen kommer att tycka är kusliga eller manipulativa.

Att ändra någons ansiktsuttryck i en video, till exempel, kan användas av en regissör för att slå upp en dålig tagning, men det kan också användas för att skapa politisk propaganda – t.ex. få en fängslad dissident att framstå som avslappnad i rättsfilmer när de verkligen svälts ihjäl. Det är vad policy wonks hänvisar till som en “teknologi med dubbla användningsområden”, vilket är ett smart sätt att säga att tekniken är “ibland kanske bra, ibland kanske skit.”

Detta är utan tvekan varför Adobe inte en gång använde ordet “deepfake” för att beskriva tekniken i något av informationsmaterialet som skickades till The Verge. Och när vi frågade varför det var så svarade företaget inte direkt utan gav istället ett långt svar om hur allvarligt det tar hoten från deepfakes och vad de gör åt dem.

Adobes ansträngningar inom dessa områden verkar involverade och uppriktiga (de är mestadels inriktade på innehållsautentiseringssystem), men de mildrar inte ett kommersiellt problem som företaget står inför: att samma deepfake-verktyg som skulle vara mest användbara för dess kundbas är de som också är potentiellt mest destruktiva.

Deepfakes utgör ett knepigt problem för Adobes affärsstrategi

Ta till exempel möjligheten att klistra in någons ansikte på någon annans kropp – utan tvekan den ur-deepfake-applikation som startade allt detta besvär. Du kanske vill ha ett sådant ansiktsbyte av legitima skäl, som att licensiera Bruce Willis likhet för en serie mobilannonser i Ryssland. Men du kanske också skapar pornografi utan samtycke för att trakassera, skrämma eller utpressa någon (den överlägset vanligaste skadliga tillämpningen av denna teknik).

Oavsett din avsikt, om du vill skapa den här typen av deepfake, har du massor av alternativ, varav inget kommer från Adobe. Du kan hyra en deepfake-innehållsstudio i boutiquestil, bråka med någon programvara med öppen källkod, eller, om du inte har något emot att dina ansiktsbyten är begränsade till förgodkända memes och gifs, kan du ladda ner en app. Vad du inte kan göra är att starta Adobe Premiere eller After Effects. Så kommer det att förändras i framtiden?

Det är omöjligt att säga säkert, men jag tror att det definitivt är en möjlighet. När allt kommer omkring överlevde Adobe tillkomsten av att “Photoshopped” blev en förkortning för digitalt redigerade bilder i allmänhet, och ofta med negativa konnotationer. Och på gott och ont, tappar deepfakes långsamt sina egna negativa associationer när de antas i mer vanliga projekt. Project Morpheus är ett djupt falskt verktyg med några seriösa skyddsräcken (du kan bara göra föreskrivna ändringar och det finns inga ansiktsbyten, till exempel), men det visar att Adobe är fast besluten att utforska detta territorium, förmodligen samtidigt som man mäter reaktioner från industrin och allmänheten.

Det är passande att eftersom “deepfake” har ersatt “Photoshopped” som den vanligaste anklagelsen om fejk i den offentliga sfären, känner Adobe sig kanske utanför. Project Morpheus föreslår att det mycket väl kan komma ikapp snart.

LEAVE A REPLY

Please enter your comment!
Please enter your name here