“Diep leren is niet diep, noch is het leren,” zegt Babak Hodjat, de vice-president van de projecten voor de “Evolutionaire AI” bij IT-diensten reus Cognizant Technologieën.
Hodjat ‘ s kritiek is een onderdeel van een fascinerende verkenning van de AI neemt vorm aan IT-services bedrijf Cognizant Technology Solutions, een vijf-en-twintig-jaar oude bedrijf dat is gevestigd in Teaneck, New Jersey, dat vorig jaar bijna $16 miljard aan inkomsten waar een aantal van de grootste bedrijven in de wereld.
Voor de jaren, deze reus heeft gesproken over “digitale transformatie,” iets dat groot en aanzienlijk, maar ook iets wat moeilijk om je gedachten rond, omdat het vaak lijkt vaag en ongedefinieerd is.
En dan in December, Cognizant gaf een hele nieuwe aarding en precisie die digitaal werken, door het verwerven van bepaalde activa van een elf-jaar-oude AI opstarten Levende Technologieën. Het bedrijf, mede-opgericht door Hodjat, is het nastreven van een spannende lijn van het werk in wat heet “evolutionary computation”, waar vele algoritmen, zoals de conventionele kunstmatige neurale netwerken, kunnen parallel worden getest voor “fitness”,” selecteren van een optimaal netwerk voor het uitvoeren van een taak.
Hoe Goed het BLAD technologie assembleert lagen van een neuraal netwerk door het uitproberen van verschillende soorten neurale netwerk “modules” in van een blauwdruk.
Cognizant Technologieën.
Ook: Intel neuro guru slams diep leren: ‘het is eigenlijk niet te leren’
Om Hodjat, die kwam om op de Hoogte samen met de verwerving van de intellectuele eigendom, het werk gaat veel verder dan de optimalisatie van het gewoon diep leren. Diep leren richt zich op het optimaliseren van de “parameters” of de “gewichten” van een neuraal netwerk, via een zogenaamde stochastische gradient descent, door middel van een proces bekend staat als backpropogation.
“Het is allemaal net hill-climbing,” zegt Hodjat van diep leren, in een interview met ZDNet. Hij is een kritiek die is geuit tegen het gebied voor tientallen jaren, zo ver terug als de kritiek van de wetenschappers MIT Marvin Minsky en Seymour Papert.
De “heuvel” in dit geval is de geometrische helling van de waarden die backpropagation navigeren is om te vinden van de optimale waarde, de top van de heuvel. (Terminologie kan een beetje glad hier. In de gemeenschappelijke diep leren van woordenschat, gradient descent is niet van plan de helling naar een optimaal punt, het is het proberen te vinden van de laagste “energie” punt in een helling, die vaak wordt aangeduid als een globale minimum. De nuances zijn belangrijk, maar in een zin, de voorwaarden zijn een aanvulling.)
“Back-prop is duur op veel niveaus,” zegt Hodjat van die energie functie, in navolging van kritiek door anderen, zoals Mike Davies van chipfabrikant Intel. Het komt niet overeen met de efficiëntie van biologische leren, hij stelt.
Ook: China ‘ s AI-wetenschappers leren een neuraal net naar de trein zelf
In tegenstelling, in de menselijke ontwikkeling’, Een menselijk kind observeert en leert over iets, zonder dat het voor gezien, met een zeer laag energieverbruik.”
Hodjat loopt een team van vijftien mensen uit Cognizant ‘ s San Francisco kantoren. De Evolutionaire Innovatie business is onderdeel van de Hoogte van de bredere “Cognizant Digitale Business,” waar Hodjat rapporten Karthik Krishnamurthy, vice-president van de Markten. De Digitale unit bestaat uit een paar duizend mensen in Cognizant kantoren over de hele wereld.
Met een totaal personeelsbestand op de Hoogte van meer dan 270,000, de Evolutionaire AI-groep is slechts een klein stipje, in een zin, maar het is ook de tip van de speer van AI: De innovaties van evolutionary computation zal het voeden van de digitale activiteiten in het algemeen, voor Cognizant hoop.
Cognizant Technology Solutions managers, van links, Bret Greenstein, hoofd van AI, Karthik Krishnamurthy, hoofd van Cognizant Digitale Business, en Babak Hodjat, mede-oprichter van Gevoelige Technologieën en hoofd van de “Evolutionaire Innovatie,” de vennootschap “Collaboratory” faciliteit op 42nd Street in Manhattan.
Tiernan Ray voor ZDNet
Ook: Kan IBM eventueel tamme AI voor ondernemingen?
Op een recente middag, Hodjat en Krishnamurthy, en een andere afgevaardigde van Krishnamurthy, Bret Greenstein, die aan het hoofd van AI aan voor de Digitale business, ging in de speelse kantoren van wat Cognizant noemt het “Collaboratory”, een werkruimte op 42nd Street in Manhattan.
De Collaboratory is ontworpen om te worden een beetje meer als een startup omgeving, met banken in de woonkamer van het type instelling, om te ontdekken een soort werk meer vertrouwd te duizendjarige en de “digital native” werknemers dan de traditionele cultuur van het kantoor van op de Hoogte.
Terwijl Krishnamurthy is met Cognizant voor twintig jaar, Greenstein ging ongeveer zes maanden geleden, en het werd een leven lang IBM ‘ er voor.
“In termen van serieuze investering in AI, data science, en machine learning, we hebben dit voor de laatste vijf jaar,” zegt Krishnamurthy. “Voorafgaand aan dat, op de Hoogte was geweest van het doen van analyses voor een lange tijd.”
AI kan het onderwerp van grote debatten, net als de soort tussen Facebook AI guru Yann LeCun en Intel ‘ s Davies, Greenstein opmerkingen. Maar voor Cognizant klanten te helpen, deze debatten zijn minder belangrijk dan het verkennen van de opties. “Er zijn een aantal gevallen waarin proces automatisering is voldoende voor klanten, en een aantal waar het moet veel meer adaptief en leren.”
Ook: Appian CEO Calkins trekt de scheidslijn tussen AI en de menselijke vermogen
Voer Hodjat en Voelt. Het meest recente voorbeeld van hun werk is opgenomen in een op papier gezet door Hodjat een week geleden, “Evolutionaire Neurale AutoML voor Diep Leren,” die is geplaatst op de Bioarxiv pre-print server. Het was co-auteur met Risto Miikkulainen, een Universiteit van Texas professor of computer science, die dient als CTO onder Hodjat.
De paper beschrijft een computer systeem met de naam “CoDeepNEAT,” die assembleert lagen van neuronen van een kunstmatig neuraal netwerk door het mengen van verschillende soorten van de functie van elke laag, zoals de kronkels van een convolutional neurale network (CNN), of de “cel” van een typische recurrent neuraal netwerk (RNN).
CoDeepNEAT begint met een netwerk samengesteld uit willekeurig van deze lagen, en stelt meerdere ontwerpen in concurrentie met elkaar in typische machine learning training. Een raad van programma loopt die meerdere netwerken in parallel op Microsoft Azure, en bepaalt de relatieve “fitness” van elk van de voorgestelde netwerk, gebaseerd op hoe zij met elkaar doen op de “validatie” fase na de training. Op die manier vele, vele generaties van mogelijke netwerken kan worden getest op het vinden van een ideale combinatie van lagen die leiden tot een optimale neurale netwerk.
Op de benchmark-tests, met inbegrip van automatisch de rating van de “toxiciteit” van Wikipedia opmerkingen, of het indelen van de borst x-ray beelden, de CoDeepNEAT aanpak “handig verslaan” de prestaties van een aantal zeer gerenommeerde methoden voor het ‘ontdekken’ van neurale netwerken, zoals Google ‘ s “AutoML” en Microsoft ‘ s “TLC” systeem, zegt Hodjat, met zichtbaar trots.
Ook: AI opstarten Petuum doelstellingen te industrialiseren machine learning
In een zin, CoDeepNEAT is een AutoML mechanisme. “We werken met groepen in Google Hersenen op deze problemen, we praten over de gezamenlijke papieren,” Hodjat opmerkingen.
Presentatie door Babak Hodjat op de deugden van “evolutionary computation” voor het probleem van het leren.
Babak Hodjat.
Een sleutel element van CoDeepNEAT, Hodjat wijst, is dat de verschillende netwerken kunnen worden vergeleken op meerdere verschillende taken, tegelijkertijd, in plaats van de typische diepe en aanpak van de training een enkel netwerk op een enkele taak, zoals een classifier.
Dat is belangrijk omdat de multi-multi-task training wordt niet alleen de netwerken die het beter doen, maar die zijn het meest efficiënt te produceren een bepaalde test resultaat. Zoeken naar honderden, misschien wel duizenden mogelijke combinaties is een aanpak die uniek is voor evolutie, Hodjat punten uit, wat kan leiden tot betere oplossingen dan het optimaliseren van op een enkel netwerk via een heuvel beklimmen.
“Evolutie brengt in de notie van creativiteit en traversal van de zoek-ruimte, is het niet de stochastische gradient descent, en is het niet de heuvel op te klimmen,” zegt Hodjat. Terwijl er een “fitness-functie”, die is geoptimaliseerd, is het niet om een back-uitdragen van de fouten te verbeteren gewicht van een enkel netwerk. Integendeel, CoDeepNEAT balances “nieuwigheid zoeken” en exploiteren van wat wordt ontdekt.
“Stel je voor dat je al naar Palo Alto,” Hodjat biedt als een analogie, “en u wilt gaan naar Chicago. U kunt een kleine pin in de kaart voor Palo Alto, het markeren van een plek van waaruit je begint. Als u door een kaart, moet u deze markers plaatsen die de gids u waar te verplaatsen naar voren of naar achteren.” Een klassiek voorbeeld in machine learning is het probleem van een AI “agent” in een poging om van de ene kamer in een 2-D kaart naar een andere kamer. Vroeg in de taak, de agent wordt geholpen door de nadruk te leggen nieuwigheid, slaan in richtingen is het nooit geweest.
Ook: Google overdenkt de tekortkomingen van machine learning
“Als je op de goede weg in de richting van je doel, je zou bagatelliseren nieuwheid en vervolgens overschakelen naar het als je vast komt te zitten in de lokale optima,” zegt Hodjat.
“Als nieuwe kennis komt, dan verandert je beeld van de wereld”, legt hij uit. In tegenstelling, “Diep [leren] – netwerken opereren niet op die manier.”
Hoe CoDeepNEAT saldi nieuwheidsonderzoek met exploitatie is het onderwerp van verschillende octrooien die reeds zijn verleend of aangevraagd door Hodjat en zijn team, de “secret sauce”,” zoals ze zeggen.
Productizing dit alles zal Goed in nieuwe richtingen, gewapend met nieuwe mogelijkheden. Levende kwam Goed met een product genaamd “BLAD” die bundels al deze technologie samen in een productie systeem.
BLAD kan worden gebruikt om te helpen een bedrijf uitzoeken “hoe run ik mijn bedrijf beter,” zegt Greenstein. Een klant komt tot Cognizant met een voorspelling probleem, zeggen, aan de klant te verbeteren conversies, of het verbeteren van de kwaliteit of lagere kosten in een product.
“We kunnen gaan en hebben invloed op je voorspelling wisselkoersen door twintig tot dertig procent”, zegt Greenstein. “Wij kunnen vergroten dat proces voor de klant, iets wat niemand anders kan doen.”
Cognizant is in de “late gesprekken” met twee cliënten van de technologie, een verpakte consumptiegoederen bedrijf, en een verzekeringsmaatschappij.
“Het is de hoogste waarde voor zorgen,” zegt Greenstein. “We verwachten zeker meer dan een double-digit premium” over tarieven Cognizant meestal tegen, beweert hij.
Met grote IT-middelen achter het BLAD, op de Hoogte kunnen niet alleen geld te verdienen, het kunnen leiden van de lading in “operationalisering” een vorm van AI, waardoor het meer toegankelijk en bruikbaar zijn buiten gewoon de mega-cap tech bedrijven die domineerde in het veld, zoals Google en Facebook.
Moet lezen
‘AI is heel, heel stom,’ zegt Google AI leider (CNET)Hoe krijg je al die Google Assistent van de nieuwe stemmen nu (CNET)Unified Google AI afdeling een duidelijk signaal van AI ‘ s toekomst (TechRepublic)Top 5: Dingen om te weten over AI (TechRepublic)
Een vraag aan het einde van de dag, misschien niet direct van belang zijn voor Cognizant, is de vraag of evolutionary computation van de BLAD-soort zal leiden tot een “kunstmatige algemene intelligentie” of AGI, de vermeende Heilige Graal van machine learning.
Hodjat iets weet over het maken van computer systemen die lijken om enkele aspecten van het natuurlijke begrip. Hij is het best bekend voor zijn werk jaar geleden dat uiteindelijk heeft geleid tot de Siri assistent-technologie die draait op Apple ‘ s iPhone. Dat project werd gedaan terwijl hij aan het werk was voor een software maker genaamd Dejima, Inc., op grond van het contract van de legendarische onderzoeksbureau SRI International.
“Ik ben niet een grote fan van AGI,” zegt Hodjat. “Het is een mythe dat wij streven naar, we weten niet eens wat het betekent, maar het is begeerlijk.” Uiteindelijk, zegt hij, intelligence is “populatie-gebaseerde,” het is “een bevolking van intelligente nog onafhankelijke geesten die zijn samen te werken en vaak tegenstrijdige, en de emergente gedrag van deze actoren is van ons.” De generalizability van de menselijke kennis, het vermogen om te “passen onze intelligentie zeer breed, duikt het fenomeen van de vele acties van de mens te leren over de vele taken.
Maar dat alles is een uitdaging voor een andere dag. Voor het moment, Hodjat de baas is tevreden met hoe het BLAD zal verbeteren Cognizant ‘ s toolkit voor praktische doeleinden.
“AI is een stukje technologie dat maakt gebruik van algoritmes die leren en de uitvoer is nauwkeuriger en beter schaalbaar dan wat we hebben gedaan traditioneel,” zegt Krishnamurthy. “We kunnen benutten om echt te helpen klanten bij het oplossen van problemen.”
Vorige en aanverwante dekking:
Wat is AI? Alles wat je moet weten
Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.
Wat is diep leren? Alles wat je moet weten
De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.
Wat is machine learning? Alles wat je moet weten
In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.
Wat is cloud computing? Alles wat u moet weten over
Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.
Verwante artikelen:
Google AI surft op het “gamescape” te veroveren spel theorie
Dit is wat AI eruit ziet (zoals geschetst door AI)
Google DeepMind teams met toonaangevende 3D-game dev platform
DeepMind AI plekken vroege tekenen van de ziekte van het oog
Verwante Onderwerpen:
Big Data Analytics
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software