Kunt u vertellen het verschil tussen een echt gezicht en een AI-gegenereerde nep?

Eerder deze maand je hebt misschien gezien een website met de naam ThisPersonDoesNotExist.com de ronde doen, die gebruik maakt van AI te genereren verbluffend realistische valse gezichten. Nou, hier is het vervolg: WhichFaceIsReal.com die kunt u test uw vermogen om onderscheid te maken AI-gegenereerde vervalsingen van het echte artikel. Ga gewoon naar de site en klik op wie is volgens u de echte persoon!

WhichFaceIsReal.com ook heeft een hoger doel wel. Het werd opgericht door twee professoren van de Universiteit van Washington, Jevin West en Carl Bergstrom, die bestuderen hoe informatie zich verspreidt door de maatschappij. Ze denken dat de opkomst van de AI-gegenereerde vervalsingen kunnen worden problemen, het ondermijnen van het vertrouwen van de maatschappij in het bewijs, en wilt opvoeden van de massa ‘ s.

“Wanneer een nieuwe technologie zoals deze komt langs, de meest gevaarlijke periode is wanneer de technologie is er, maar het publiek niet op de hoogte was van het” Bergstrom vertelt De Berm. “Dat is wanneer het gebruikt kan worden is het meest effectief.”

“Dus wat we proberen te doen is het informeren van de bevolking, de mensen bewust te maken van deze technologie is er,” zegt West. “Net zoals dat uiteindelijk de meeste mensen bewust te maken dat u kunt Photoshop een beeld.”

Beide sites maken gebruik van een machine learning methode die bekend staat als een generatieve tegenspraak netwerk (of GAN voor kort) voor het genereren van hun vervalsingen. Deze netwerken door het uitpluizen van enorme stapels van gegevens (in dit geval een veel portretten van echte mensen); het leren van de patronen in hen, en dan proberen om te repliceren op wat ze hebben gezien.

De reden GANs zo goed is dat ze zichzelf testen. Een deel van het netwerk genereert gezichten, en de andere vergelijkt ze met de training data. Als het kan het verschil zien, de generator wordt teruggestuurd naar de tekentafel tot het verbeteren van zijn werk. Denk aan het als een strenge leraar die niet zal laten je de klas verlaten tot het tekenen van het juiste aantal ogen op de houtskool portret. Er is geen ruimte voor AI Picasso — realisme.

“de meest gevaarlijke periode is wanneer de technologie is er, maar het publiek niet op de hoogte was.”

Deze technieken kunnen worden gebruikt voor het manipuleren van audio en video en afbeeldingen. Hoewel er beperkingen zijn aan wat een dergelijke systemen kunnen doen (je kunt niet typ een bijschrift voor de foto die u wilt om te bestaan en hebben het magicked in wezen) ze verbetert gestaag. Deepfakes kunt schakelen video ‘ s van politici in poppen en ze kunnen zelfs je veranderen in een geweldige danser.

Met deze zaak van de AI-gegenereerde gezichten, Bergstrom en West opmerking dat een kwaadaardige gebruik kan worden het verspreiden van desinformatie na een terroristische aanslag. Bijvoorbeeld, AI kan worden gebruikt voor het genereren van een valse dader die online circuleren, verspreid op sociale netwerken.

In deze scenario ‘ s journalisten meestal proberen om te controleren of de bron van een afbeelding, met behulp van tools zoals Google Reverse Image search. Maar dat zou niet werken op een AI-nep. “Als je wilde om te injecteren verkeerde informatie in een situatie zoals die, als je post een foto van de dader en het is iemand anders krijgt gecorrigeerd zeer snel,” zegt Bergstrom. “Maar als je een foto van iemand die helemaal niet bestaat? Denk aan de moeilijkheid van het bijhouden die naar beneden.”

Let op: de academici en onderzoekers zijn het ontwikkelen van tal van tools die plek deepfakes. “Mijn opvatting is dat nu het is eigenlijk heel makkelijk te doen”, aldus West. En het nemen van de test boven je waarschijnlijk je gevonden kan onderscheid worden gemaakt tussen de AI-opgewekte gezichten en echte mensen. Er zijn een aantal vertelt, waaronder asymmetrische gezichten, uitgelijnd tanden, onrealistisch haar, en oren, nou ja, gewoon niet kijken als oren.

Maar deze vervalsingen zal beter worden. In de andere drie jaren [deze vervalsingen] niet te onderscheiden”, zegt West. En wanneer dat gebeurt, weten de helft van de strijd. Zegt Bergstrom: “Onze boodschap is heel veel niet, dat moeten de mensen niet geloven in iets. Onze boodschap is het tegenovergestelde: het is niet goedgelovige.”