De notie van een machine-aangedreven gezichtsherkenning is er een die dateert van vóór de huidige technologie voor het door de vele jaren heen, dankzij de robot POV shots van sci-fi films als The Terminator en Robocop. Maar hoewel er veel vooruitgang is geboekt, gezichtsherkenning software is verre van onfeilbaar, zoals onderzoekers van de Carnegie Mellon University recent gevonden.
Hier zijn de details van een rapport van Kwarts:
Onderzoekers toonden aan dat ze kon truc AI systemen voor gezichtsherkenning in onjuiste vereenzelviging gezichten–om iemand gevangen op de camera verschijnen om iemand anders te zijn, of zelfs niet herkenbaar als mens. Met een speciaal paar brilmonturen, het team gedwongen commercial-grade gezichtsherkenning software in het identificeren van de verkeerde persoon met 100% slagingspercentage.
Moderne gezichtsherkenning software is gebaseerd op diepe neurale netwerken, een smaak van kunstmatige intelligentie, die leert patronen van duizenden en miljoenen stukjes informatie. Wanneer weergegeven miljoenen gezichten, de software leert het idee van een gezicht, en hoe vertel je de verschillende soorten uit elkaar.
Als de software leert hoe een gezicht eruit ziet, leunt zwaar op bepaalde details, zoals de vorm van de neus en wenkbrauwen. De Carnegie Mellon bril hoeft niet alleen betrekking te hebben op de gelaatstrekken, maar in plaats daarvan zijn bedrukt met een patroon dat wordt waargenomen door de computer als gezichts-gegevens van een ander persoon.
In een test waar onderzoekers bouwden een state-of-the-art facial recognition system, een witte mannelijke proefpersoon het dragen van de bril verscheen als actrice Milla Jovovich met 87.87% nauwkeurigheid.
De test was geen theoretische–de CMU afgedrukt de bril op glanzend fotopapier en droeg ze voor de camera in een scenario bedoeld voor het simuleren van de toegang tot een gebouw wordt bewaakt door gezichtsherkenning. De bril kost $.22 per paar te maken.
De bril had ook een 100 procent kans op succes tegen de commerciële gezichtsherkenning software Gezicht++, hoewel in dit geval waren ze digitaal toegepast op foto ‘ s, Quartz opmerkingen. CMU het onderzoek volgt een soortgelijke inspanning van Google, OpenAI, en anderen, het voegt.
Terwijl Quartz-het rapport benadrukt de veiligheidsrisico ‘ s in verband met de kwetsbaarheid van neurale netwerken over gezichtsherkenning, zijn er andere ernstige zaken te beschouwen als goed, zegt Sterrenbeeld Onderzoek VP en principal analyst van Steve Wilson.
CMU is het onderzoek “laat ons veel van onze intuïties over geautomatiseerde object herkenning zijn vals”, zegt hij. “Als ik zeg ‘intuïtie’ bedoel ik eigenlijk hebben we geleerd onze verwachtingen voor de kunstmatige intelligentie van het kijken naar science fiction. Wat we hebben is een enorme set van technologieën die nog in ontwikkeling. Er is een dringende publiek debat over wat het allemaal betekent, van zelf-rijdende auto ‘ s om de veiligheid van de luchthaven, maar is gebaseerd op een simplistische begrip van de werking van machines zien.”
Vandaag de neurale netwerken die verder gaan dan de ouderwetse methoden van het object herkenning — tagging, het extraheren van functies en kleuren, vervolgens het verwerken van de informatie voor het identificeren van de verschillende objecten — Wilson opmerkingen. Neurale netwerken worden aangeprezen als een afspiegeling van hoe het menselijk brein werkt, met de mogelijkheid om te leren in de tijd. Dat maakt CMU is onderzoek zo belangrijk is.
“CMU komt langs en zegt dat we kunnen een ding als een bril die niet eens vergelijkbaar zijn met het doel van het gezicht en de neurale netwerken triggert uit iets over het object,” zegt hij. “Het neurale netwerk is geënt op de niet voor de hand liggende functies. Je kan gek, op een manier die leken nooit had verwacht.”
Wilson wijst naar het incident in juni, toen een AMERIKAANSE man werd de eerste persoon om te sterven in een zelf-rijdende auto-ongeluk. Zijn Tesla-sensor systeem was niet in staat om onderscheid te maken tussen een trekker oplegger oversteken van de weg en de heldere hemel, en de auto reed in op hoge snelheid met dodelijke afloop. “Ik ben niet de schuld geven van neurale netwerken per se, maar ik ben bang dat deze nieuwe visie systemen zijn veel moeilijker te analyseren en te debuggen dan de klassieke computer programma’ s die we gewend zijn,” Wilson zegt.
Neurale netwerken worden gezien als een belangrijke component in het krijgen van een zelf-rijdende auto ‘ s op de markt en op de weg en masse. De CMU onderzoek moeten geven die te popelen om dit te zien gebeuren serieuze pauze, en beseffen dat het tijd is voor een meer verfijnde openbaar gesprek over neurale netwerken.
“Als iemand wordt gedood [in een zelf-rijdende auto] en de zaak gaat naar de rechter, kunnen we het systeem logs en zie wat de auto zag? Dat is misschien niet mogelijk,” zegt hij. “Ik denk dat beleidsmakers denken dat het werkt.’
“Neurale netwerken hebben gewoon een stap-voor-stap-algoritme en de audit-log,” voegt hij toe. “Ze werken niet als dat. Denk na over de Carnegie Mellon werk. Het is zeer verwonderlijk dat iets dat niet lijkt op een gezicht kan worden geïnterpreteerd als een gezicht. Een neuraal netwerk-aangedreven auto gerold op de weg, wie weet wat het ziet? Daarom, de mensen die het schrijven van de wetten en het bespreken van de mogelijkheden nodig hebt om een meer genuanceerde discussie over hoe kunstmatige hersenen werken en hoe ze te mislukken.”
Wilson raadt, op zijn minst, dat testcases voor neurale machine vision worden gegoten veel meer op grote schaal. “Het is niet genoeg om te testen hoe een autonome auto reageert op plastic honden en plastic kinderen”, zegt hij. “We moeten nu ons realiseren dat neurale netwerken zijn niet op zoek naar deze dingen expliciet. Ze kunnen reageren op combinaties van optische ingangen zouden we intuïtief denken te testen.”
24/7 Toegang tot Sterrenbeeld Inzichten Abonneer u vandaag nog aan voor onbeperkte toegang tot analist expert uitzicht op breaking news.