Er is jaren van onderzoek geplaatst in het probleem van hoe te maken van kunstmatige intelligentie “robuuste” aan te vallen en minder gevoelig voor storing. Maar het gebied is nog steeds vat te krijgen op wat fout, in AI, betekent eigenlijk, zoals wordt aangegeven door een blog post deze week van de DeepMind eenheid van Google.
Het ontbrekende element lijkt misschien voor de hand om een aantal: het zou echt helpen als er meer menselijke betrokkenheid bij het opstellen van de randvoorwaarden voor hoe neurale netwerken worden verondersteld te functioneren.
Onderzoekers Pushmeet Kohli, Sven Gowal, Krishnamurthy, Dvijotham, en Jonathan Uesato zijn het bestuderen van het probleem, en ze herkennen veel werk dat nog gedaan moet worden, dat ze samenvatten onder de titel “op weg Naar Robuuste en Gecontroleerd AI: Specificatie Testen, Robuuste Opleiding en Formele Verificatie.”
Er is een rijke geschiedenis van controle testen voor computer programma ‘ s, maar die benaderingen zijn “niet geschikt voor de moderne deep learning systemen.”
Ook: MIT ups ante in het krijgen van een AI te leren een andere
Waarom? Een groot deel omdat wetenschappers zijn het nog aan het leren over wat het betekent om een neuraal netwerk te volgen in de “specificatie” dat was gelegd. Het is niet altijd duidelijk wat de specificatie is zelfs.
“Specificaties vast te leggen die ‘juiste’ gedrag in AI-systemen zijn vaak moeilijk precies staat,” de auteurs schrijven.
Google DeepMind stelt manieren voor het instellen van een begrenzing van de soorten uitgangen van een neuraal netwerk kan produceren, te houden van het doen van de verkeerde dingen.
DeepMind
×
google-deepmind-geometrie-van-verificatie.png
De notie van een “specificatie” komt uit de software wereld, de DeepMind onderzoekers observeren. Het is de bedoeling de functionaliteit van een computer systeem.
Als de auteurs schreven in een post in December, in AI, misschien is er niet slechts één spec, er kunnen ten minste drie. Er is de “ideale” specificatie, wat het systeem van de makers stel je het kon doen. Dan is er de “design” specificatie van de “objectieve functie” uitdrukkelijk geoptimaliseerd voor een neuraal netwerk. En, ten slotte, is er de “geopenbaard” specificatie, de manier waarop het ding daadwerkelijk uitvoert. Ze noemen deze drie specs, die verschillen nogal van elkaar, de wens, de vormgeving en het gedrag.
Het ontwerpen van kunstmatige neurale netwerken kunnen gezien worden als hoe de kloof te dichten tussen wensen, design en gedrag. Als ze schreef in December essay “Een specificatie van het probleem ontstaat wanneer er een verschil is tussen de ideale specificatie en de geopenbaarde specificatie, dat is, wanneer de AI-systeem niet doet wat wij willen dat hij doet. ”
Ook: Google overdenkt de tekortkomingen van machine learning
Ze stellen verschillende routes te testen en trainen van neurale netwerken die meer robuust te zijn, fouten, en vermoedelijk meer trouw aan specs.
Een aanpak is het gebruik van AI zelf om erachter te komen wat befuddles AI. Dat betekent het gebruik van een reinforcement learning systeem, zoals Google ‘ s AlphaGo, op zoek naar de slechtst mogelijke manieren die ander reinforcement learning systeem kunnen falen?
De auteurs deed precies dat, in een paper gepubliceerd in December. “We leren van tegenspraak waarde functie die voorspelt uit ervaring welke situaties zijn het meest waarschijnlijk om te falen voor de agent.” De agent in dit geval verwijst naar een agent reinforcement learning.
“We gebruik dan dit geleerd functie voor de optimalisatie van de focus van de evaluatie op de meest problematische ingangen.” Ze beweren dat de methode leidt tot een “grote verbeteringen ten opzichte van de willekeurige test” van reinforcement learning systemen.
Moet lezen
‘AI is heel, heel stom,’ zegt Google AI leider (CNET)Hoe krijg je al die Google Assistent van de nieuwe stemmen nu (CNET)Unified Google AI afdeling een duidelijk signaal van AI ‘ s toekomst (TechRepublic)Top 5: Dingen om te weten over AI (TechRepublic)
Een andere benadering is om te trainen van een neuraal netwerk om te voorkomen dat een hele reeks uitgangen, om te voorkomen dat het gaat volledig uit de rails en het maken van echt slechte voorspellingen. De auteurs claimen dat een “eenvoudige bounding techniek,” iets genaamd “interval gebonden vermeerdering,” in staat is om de opleiding van een “aantoonbaar robuuste” neurale netwerk. Dat werk won ze een “best paper award” op de NeurIPS conferentie van vorig jaar.
Ze zijn nu verder dan alleen het testen en trainen van een neuraal netwerk om te voorkomen dat een ramp zijn, ze ook beginnen om te zoeken naar een theoretische basis voor een garantie van robuustheid. Ze benaderde het als een “optimalisatie probleem dat probeert te zoeken naar de grootste schending van de eigendom te worden geverifieerd.”
Ondanks deze resultaten, aan het einde van de dag, “veel werk is nodig,” de auteurs schrijven “op te bouwen van geautomatiseerde tools voor zorgen dat AI-systemen in de echte wereld zal doen op de ‘juiste’.”
Een aantal van die werken is het ontwerpen van algoritmen die kunnen testen en trainen van neurale netwerken meer intens. Maar wat het waarschijnlijk gaat om een menselijk element. Het is over het instellen van de doelstellingen — de objectieve functie — voor AI, dat overeenkomt met wat de mensen willen.
“Het bouwen van systemen die gebruik kunnen maken van gedeeltelijke menselijke specificaties en leer verdere specificaties van evaluatieve feedback nodig zou zijn,” schrijven ze, “zo bouwen we steeds meer intelligente agenten staat van het tentoonstellen van complex gedrag en handelen in ongestructureerde omgevingen.”
Vorige en aanverwante dekking:
Wat is AI? Alles wat je moet weten
Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.
Wat is diep leren? Alles wat je moet weten
De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.
Wat is machine learning? Alles wat je moet weten
In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.
Wat is cloud computing? Alles wat u moet weten over
Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.
Verwante artikelen:
Google AI surft op het “gamescape” te veroveren spel theorie
Dit is wat AI eruit ziet (zoals geschetst door AI)
Google DeepMind teams met toonaangevende 3D-game dev platform
DeepMind AI plekken vroege tekenen van de ziekte van het oog
Verwante Onderwerpen:
Veiligheid
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software