I onsdags fjernede Facebooks moderselskab, Meta, en dybt falsk video af den ukrainske præsident Volodymyr Zelenskyy, der udsender en erklæring, som han aldrig afgav, og bad ukrainerne om at “lægge våben ned.”
Den deepfake ser ud til først at være blevet udsendt på et ukrainsk nyhedswebsted for TV24 efter et påstået hack, som først rapporteret af Sky News onsdag. Videoen viser en redigeret Zelenskyy, der taler bag et podium, der erklærer, at Ukraine har “besluttet at returnere Donbas” til Rusland, og at hans nations krigsbestræbelser var slået fejl.
I videoen er Zelenskyys hoved komisk større end i det virkelige liv og er mere pixeleret end hans omgivende krop. Den falske stemme er også meget dybere end hans rigtige stemme.
Som principielt poster jeg aldrig eller link til falsk eller falsk indhold. Men @MikaelThalen har hjælpsomt slået en etiket på denne Zelensky, så her kommer.
Jeg har set nogle vellavede deepfakes. Dette må dog være blandt de værste nogensinde.pic.twitter.com/6OTjGxT28a
— Shayan Sardarizadeh (@Shayan86) 16. marts 2022
Metas hoved af sikkerhedspolitik, Nathaniel Gleicher, udsendte onsdag en tweet-tråd, der meddelte, at videoen var blevet fjernet fra virksomhedens platforme. “Tidligere i dag identificerede og fjernede vores team en dybfalsk video, der hævder at vise præsident Zelensky, der udsender en erklæring, han aldrig gjorde. Det dukkede op på en efter sigende kompromitteret hjemmeside og begyndte derefter at blive vist på internettet,” sagde Gleicher.
Tidligere på måneden udsendte den ukrainske regering en erklæring, der advarede soldater og civile om at holde pause, når de støder på videoer af Zelenskyy online, især hvis han annoncerer en overgivelse til russisk invasion. I erklæringen sagde det ukrainske center for strategisk kommunikation, at den russiske regering sandsynligvis ville bruge deepfakes for at overbevise ukrainere om at overgive sig.
“Vores hold identificerede og fjernede en dybt falsk video, der hævder at vise præsident Zelensky, der udsender en erklæring, han aldrig gjorde.”
“Videoer lavet gennem sådanne teknologier er næsten umulige at skelne fra de rigtige. Vær opmærksom – dette er en falsk! Hans mål er at desorientere, så panik, vantro borgere og tilskynde vores tropper til at trække sig tilbage, hedder det i erklæringen. “Vær sikker – Ukraine vil ikke kapitulere!”
Efter den dybe falske begyndelse at cirkulere over internettet, lagde Zelenskyy en video op på sin officielle Instagram-konto, der afslørede videoen. “Med hensyn til den seneste barnlige provokation med råd om at nedlægge våben, råder jeg kun til, at tropperne i Den Russiske Føderation lægger deres våben og vender hjem,” sagde han. “Vi er hjemme og forsvarer Ukraine.”
Facebook forbød deepfakes og andre manipulerede videoer fra deres platforme i 2020 forud for det amerikanske præsidentvalg. Politikken omfatter indhold skabt af kunstig intelligens eller maskinlæringsalgoritmer, der “sandsynligvis kan vildlede” brugere.