Kan du tala om skillnaden mellan ett verkligt ansikte och en AI-genererade är falska?

Tidigare denna månad som du kanske har sett en hemsida som heter ThisPersonDoesNotExist.com göra rundor som använder AI för att skapa häpnadsväckande realistisk falska ansikten. Tja, här är uppföljaren: WhichFaceIsReal.com som gör att du kan testa din förmåga att skilja AI-genererade förfalskningar från äkta vara. Bara gå till sajten och klicka på vem du tror är den verkliga personen!

WhichFaceIsReal.com har också ett högre syfte ändå. Det inrättades av två forskare från University of Washington, Jevin West och Carl Bergström, båda studera hur information sprids i samhället. De tror att ökningen av AI-genererade förfalskningar kan bli problem, att undergräva förtroendet i samhället bevis, och vill utbilda massorna.

“När en ny teknik som detta kommer fram, är den farligaste perioden är när tekniken finns där ute, men allmänheten är inte medveten om det,” Bergstrom berättar Gränsen. “Det är när det kan användas mest effektivt.”

“Så vad vi försöker göra är att utbilda allmänheten, göra folk medvetna om att denna teknik är ute, säger West. “Precis som så småningom att de flesta människor var medvetna om att du kan Photoshop med en bild.”

Båda webbplatserna använder en maskin lärande metod är känd som en skapande kontradiktoriska nätverk (eller GAN för kort) för att skapa sina förfalskningar. Dessa nätverk fungerar genom att poring igenom enorma högar av data (i detta fall, en hel del porträtt av verkliga människor), lära sig mönster i dem, och sedan försöker kopiera vad de har sett.

Anledningen GANs är så bra är att de testar själva. En del av det nätverk som genererar ansikten, och den andra jämför dem med den utbildning i data. Om det kan se skillnaden, generator skickas tillbaka till ritbordet för att förbättra sitt arbete. Tänk på det som en strikt konst lärare som inte kommer att låta dig lämna klassen tills du dra rätt antal ögon på din träkol porträtt. Det finns inget utrymme för AI Picassos — realism.

“den farligaste perioden är när tekniken finns där ute, men allmänheten är inte medveten om det.”

Dessa tekniker kan användas för att manipulera ljud och video samt bilder. Även om det finns begränsningar för vad ett sådant system kan göra (du kan inte skriva en bildtext till en bild som du vill ska finnas till och ha det magicked till) de ökar stadigt. Deepfakes kan vända videor av politiker i dockor och de kan även vända dig till en bra dansare.

Med detta fall av AI-genererade ansikten, Bergström och West observera att en skadlig användning kan vara att sprida desinformation efter en terroristattack. Till exempel, AI kan användas för att skapa en falsk boven i dramat som cirkulerat på nätet, sprids på sociala nätverk.

I dessa scenarier journalister brukar försöka att kontrollera källan av en bild, och med hjälp av verktyg som Google ‘ s Reverse Image search. Men det skulle inte fungera på en AI falska. “Om du ville spruta in felaktig information i en situation som, om du lägger upp en bild på förövaren och det är någon annan det kommer att bli rättad mycket snabbt, säger Bergström. “Men om du använder en bild av någon som inte alls existerar? Tror det är svårt att spåra ner det.”

De noterar att akademiker och forskare utvecklar massor av verktyg som kan upptäcka deepfakes. “Min uppfattning är att just nu är det faktiskt ganska lätt att göra, konstaterar West. Och testet ovan har du förmodligen hittat dig kunde skilja mellan AI-genererade ansikten och riktiga människor. Det finns ett antal berättar, inklusive asymmetriska ansikten, sneda tänder, orealistiska hår och öron som, tja, bara inte se ut som öron.

Men dessa förfalskningar kommer att bli bättre. I ytterligare tre år [dessa förfalskningar] kommer att skiljas, säger West. Och när det händer, kommer att veta att halva striden. Säger Bergström: “Vårt budskap är mycket mycket inte så att människor inte ska tro på någonting. Vårt budskap är det motsatta: det är inte att vara godtrogen.”