Automatiske “liveness-tests”, der bruges af banker og andre institutioner til at hjælpe med at verificere brugernes identitet, kan nemt narre af dybe falske falske, viser en ny rapport.
Sikkerhedsfirmaet Sensity, som er specialiseret i at spotte angreb ved hjælp af AI-genererede ansigter, undersøgte sårbarheden af identitetstest leveret af 10 topleverandører. Sensity brugte deepfakes til at kopiere et målansigt til et ID-kort, der skulle scannes, og kopierede derefter det samme ansigt til en videostream af en kommende angriber for at bestå leverandørers test af livlighed.
Livstests beder generelt nogen om at kigge ind i et kamera på deres telefon eller bærbare computer, nogle gange dreje hovedet eller smile, for både at bevise, at de er en rigtig person, og for at sammenligne deres udseende med deres id ved hjælp af ansigtsgenkendelse. I den finansielle verden er sådanne checks ofte kendt som KYC eller “kend din kunde”-tests og kan indgå i en bredere verifikationsproces, der inkluderer dokument- og regningstjek.
“Vi testede 10 løsninger, og vi fandt ud af, at ni af dem var ekstremt sårbare over for deepfake-angreb,” fortalte Sensitys driftschef, Francesco Cavalli, til The Verge.
“Der er en ny generation af AI-kraft, der kan udgøre alvorlige trusler mod virksomheder,” siger Cavalli. “Forestil dig, hvad du kan gøre med falske konti oprettet med disse teknikker. Og ingen er i stand til at opdage dem.”
Sensity delte identiteten af de virksomhedsleverandører, den testede med The Verge, men den anmodede om, at navnene ikke blev offentliggjort af juridiske årsager. Cavalli siger, at Sensity har underskrevet tavshedspligtaftaler med nogle af leverandørerne og frygter i andre tilfælde, at det kan have overtrådt virksomheders servicevilkår ved at teste deres software på denne måde.
Cavalli siger også, at han var skuffet over reaktionen fra leverandører, som ikke så ud til at betragte angrebene som væsentlige. “Vi sagde til dem 'se, du er sårbar over for denne form for angreb', og de sagde 'vi er ligeglade',” siger han. “Vi besluttede at offentliggøre det, fordi vi mener, på virksomhedsniveau og generelt, at offentligheden burde være opmærksom på disse trusler.”
Leverandørerne, som Sensity testede, sælger disse liveness-checks til en række kunder, herunder banker, dating-apps og cryptocurrency-startups. En sælger blev endda brugt til at bekræfte vælgernes identitet ved et nyligt nationalt valg i Afrika. (Selvom der ikke er noget forslag fra Sensitys rapport om, at denne proces blev kompromitteret af deepfakes.)
Cavalli siger, at sådanne dybe falske identitetsspoofs primært er en fare for banksystemet, hvor de kan bruges til at lette svig. “Jeg kan oprette en konto; Jeg kan flytte ulovlige penge ind på digitale bankkonti med kryptopunge,” siger Cavalli. “Eller måske kan jeg bede om et realkreditlån, for i dag konkurrerer onlinelåneselskaber med hinanden om at udstede lån så hurtigt som muligt.”
Det er ikke første gang, deepfakes er blevet identificeret som en fare for ansigtsgenkendelsessystemer. De er primært en trussel, når angriberen kan kapre videofeedet fra en telefon eller et kamera, en relativt simpel opgave. Ansigtsgenkendelsessystemer, der bruger dybdesensorer – som Apples Face ID – kan dog ikke narre af denne slags angreb, da de bekræfter identiteten ikke kun baseret på det visuelle udseende, men også den fysiske form af en persons ansigt.