Intels neuro guru slår djupt lärande: “det är faktiskt inte lärande”

0
204

“Backpropogation inte korrelerar till hjärnan,” insisterar Mike Davies, chef för Intels neuromorphic computing enhet, genom att förkasta ett av de viktigaste verktygen för de arter av A. I. På modet idag, djupt lärande. “Därför, “det är verkligen en optimeringar förfarande, det är faktiskt inte lära sig.”

Davies gjorde en kommentar under en föreläsning på torsdag på International Solid-State Circuits Conference i San Francisco, en prestigefylld årlig insamling av halvledare designers.

Davies var på väg att återvända efter brand Facebook är Yann LeCun, en ledande apostel djupt lärande, tidigare i veckan avslog Davies egen teknik under LeCun är öppningsanförande för konferensen.

“Hjärnan är ett exempel vi har är verkligen intelligent beräkning”, konstaterade Davies. I motsats, så kallat back-prop, uppfanns på 1980-talet, är en matematisk metod som används för att optimera responsen av artificiella neuroner i en djup lära sig datorprogram.

Även om djupt lärande har visat sig vara “mycket effektiv”, Davies berättade en ballroom av deltagarna, “det finns ingen naturlig exempel på back-prop,” sade han, så att den inte motsvarar vad man skulle tänka på verkligt lärande.

Också: Facebook är Yann LeCun speglar bestående överklagande av faltningar

Davies sedan gick över till att tala om “Loihi,” hans team dator modell av ett neuralt nätverk som använder så kallade tillsatta nervceller som aktiverar bara när de får en ingående prov. Påståendet om neuromorphic computing förespråkar är att den strategi som närmare emulerar de faktiska egenskaperna hos hjärnans funktion, till exempel den stora ekonomin som hjärnan sänder signaler.

Han bannade LeCun för att inte värdet styrkor av detta synsätt.

“Det är så ironiskt,” sade Davies. “Yann bashed spikar men sedan sade han att vi måste ta itu med gleshet i hårdvara, och det är vad som spikar.”

intel-loihi-neuromorphic-chip-architecture-2019.jpg

Arkitektonisk översikt av Intels “Loihi” neuromorphic design och chip.

Intel.

Punkt-kontrapunkt mellan de två forskarna är inte bara det akademiska. Intel är i verksamhet i form av chips. LeCun berättade ZDNet i en intervju på måndagen att Facebook har sina egna “inre verksamhet” som pågår i utvecklingen av marker för A. I. Därför vissa av Intels chip företag med stora kunder som Facebook kan vara i fara om företaget möter konkurrens från de mycket kunder eftersom de har en annan vision.

På Facebook AI-forskare under hans föredrag måndag morgon hade kritiseras kraftigt neuron fungerar i stort sett, säger att tekniken inte hade gett algoritmer som skulle kunna leda till konkreta resultat. “Yann sade:” Varför bygga marker för algoritmer som inte fungerar, jag tror att dessa algoritmer fungerar”, sade Davies.

Fortfarande, han medgav att det fanns åtminstone en del av sanningen för att LeCun kritik. Medan hårdvaran av tillsatta neuroner “är väl adekvat och ger en hel del verktyg för att kartlägga intressanta algoritmer”, sade Davies, hans avdelning har ett “mål att göra framsteg på den algoritmiska framsidan, vilket är vad som håller tillbaka området.”

Men Davies kritiserade vad han kallade “knee-jerk reaction att spikes är ineffektiv.”

Också: Facebook är Yann LeCun säger “inre verksamhet” utgår AI marker

I stället föreslog han, “låt oss titta på data.”

intel-loihi-neuromorphic-chip-benchmark-2019.jpg

Intel säger Loihi rekord konventionella neurala nätverkets prestanda på vanliga processorer, särskilt i hastighet som resultat beräknas.

Intel.

Davies hänvisas till en rapport tas ut i December av en organisation som heter Tillämpade hjärnforskning of Waterloo, Ontario, som jämfört resultat av ett tal upptäckt algoritm körs på olika marker. Programvaran var utbildade för att känna igen nyckelord “aloha” samtidigt avvisa nonsens fraser. Företaget drev modell på en CPU och GPU, och också gjort en version som körde på Loihi chip.

Måste läsa

‘AI är mycket, mycket dumt”, säger Googles AI ledare (CNET)Hur man får alla Google Assistant nya röster just nu (CNET)Enhetlig Google AI division en tydlig signal om att AI: s framtid (TechRepublic)Topp 5: Saker att veta om AI (TechRepublic)

Den Loihi chip verkar komma ut med betydligt bättre energieffektivitet, mätt som antal joule som krävs för att utföra inferens på uppgiften. (Det är värt att notera att Loihi chip, men faktiskt ger lägre noggrannhet, som beskrivs i den fullständiga versionen av den Tillämpade Vetenskapen papper, som är tillgänglig på arXiv pre-print-server.)

I ett annat exempel, Davies konstaterade att en grundläggande teoretiska uppgiften utförs av Loihi var fyrtio gånger så snabbt som en vanlig GPU-baserade djupt lärande nätverk, med 8% större noggrannhet.

Davies berättade för publiken att Loihi blir “mer effektiva” som det har i uppdrag att med större och större nätverk. Han observerade att kontroll av robotar skulle vara killer app för neuromorphic marker som Loihi. “Hjärnan utvecklats för att styra armar och ben”, påpekade han, att robotstyrningar en naturlig.

Att linda upp sitt tal, Davies sade “det finns mycket arbete kvar att göra innan vi kan sätta upp det i en kommersiell form som gäller för ett brett spektrum av problem,” men han slutade på en optimistisk observera att säga “Vi kan få algoritmer som ett arbete som kommer att ta itu med Yann’ s skepsis.”

Tidigare och relaterade täckning:

Vad är AI? Allt du behöver veta

En verkställande guide till artificiell intelligens, från maskininlärning och allmänna AI att neurala nätverk.

Vad är djupt lärande? Allt du behöver veta

Lowdown på djupt lärande: från hur det förhåller sig till de bredare fält av maskinen lärande genom hur man kommer igång med det.

Vad är lärande? Allt du behöver veta

Denna guide förklarar vad lärande är, hur den är relaterad till artificiell intelligens, hur det fungerar och varför det är viktigt.

Vad är cloud computing? Allt du behöver veta om

En introduktion till cloud computing rätt från grunderna upp till IaaS och PaaS, hybrid, offentliga och privata moln.

Relaterade artiklar:

Googles AI surfar “gamescape” att erövra spelteori
Detta är vad AI ser ut (som skissat av AI)
Googles DeepMind lag med ledande 3D-spel dev plattform
DeepMind AI fläckar tidiga tecken på ögonsjukdom

Relaterade Ämnen:

Big Data Analytics

Digital Omvandling

CXO

Sakernas Internet

Innovation

Affärssystem