Intels neuro guru slams dyb læring: “det er faktisk ikke lære’

0
184

“Backpropogation ikke korrelerer til hjernen,” insisterer på, Mike Davies, leder af Intels neuromorphic computing enhed, afskedige en af de vigtigste redskaber, af den art, A. I. på mode I dag, dyb læring. “Derfor, “det er virkelig en optimeringer procedure, det er faktisk ikke lære.”

Davies har gjort den kommentar under et foredrag på torsdag på den Internationale ssd-Kredsløb-Konference i San Francisco, a prestigefyldte årlige indsamling af halvleder-designere.

Davies var på vej brand efter Facebook ‘s Yann LeCun, en ledende apostel for dyb læring, tidligere på ugen afviste Davies’ s egen teknologi under LeCun ‘ s åbning keynote på konferencen.

“Hjernen er et eksempel vi har på, virkelig intelligent beregning,” bemærkede Davies. I modsætning, såkaldt back-prop, som blev opfundet i 1980’erne, er en matematisk teknik, der anvendes til at optimere svar af kunstige neuroner i en dyb læring edb-program.

Selv om dybe læring har vist sig “meget effektiv,” Davies fortalte en balsal af deltagere, “der er ingen naturlig eksempel på tilbage-prop,” sagde han, så det ikke svarer til, hvad man kunne betragte som egentlige læring.

Også: Facebook ‘ s Yann LeCun afspejler den vedvarende appel af vindinger

Davies gik derefter ud på at give et foredrag om “Loihi,” hans team computer model af et neuralt netværk, der bruger såkaldte tilsætte neuroner, der aktiveres kun, når de modtager et input prøve. Den påstand af neuromorphic computing går ind for, at den tilgang, nærmere emulerer de faktiske egenskaber af hjernens funktion, såsom den store økonomi, som hjernen sender signaler.

Han drillede LeCun for ikke at værdien af de stærke sider ved denne tilgang.

“Det er så ironisk,” sagde Davies. “Yann bashed pigge, men så sagde han:” vi er nødt til at beskæftige sig med sparsity i hardware, og det er, hvad pigge er om.”

intel-loihi-neuromorphic-chip-architecture-2019.jpg

Arkitektonisk overblik over Intel ‘ s “Loihi” neuromorphic computing chip.

Intel.

Punkt-kontrapunkt mellem de to forskere, er ikke blot akademisk. Intel er i færd med chips. LeCun fortalte ZDNet i et interview mandag, at Facebook har sit eget “interne aktiviteter, der er” gang i udviklingen af chips til A. I. Derfor, nogle af Intels chip virksomhed med store kunder som Facebook kan være i fare, hvis virksomheden står over for konkurrence fra de meget kunder, fordi de har en anden vision.

Den Facebook AI forsker i løbet af sin tale mandag morgen havde kritiserede tilsætte neuron arbejde bredt, siger, at teknologien havde ikke givet algoritmer, der kan give konkrete resultater. “Yann sagde:” Hvorfor bygge chips for algoritmer, der ikke fungerer; jeg tror, at disse algoritmer virker,” sagde Davies.

Stadig, han indrømmede, at der var mindst et element af sandhed, at LeCun kritik. Mens hardware for at tilsætte neuroner “er vel passende, og giver en masse værktøjer til at kortlægge interessante algoritmer,” sagde Davies, hans-afdelingen har et “mål at gøre fremskridt på den algoritmiske front, som er, hvad der holder dem tilbage i feltet.”

Men Davies truede, hvad han kaldte “denne knee-jerk reaktion, at spikes er ineffektive.”

Også: Facebook ‘ s Yann LeCun siger ‘indre aktivitet” provenu på AI chips

I stedet foreslog han, “lad os se på data.”

intel-loihi-neuromorphic-chip-benchmark-2019.jpg

Intel siger, at Loihi rekorder konventionelle neurale netværk ydeevne på konventionelle processorer, især i hastighed, hvilke resultater der beregnes.

Intel.

Davies nævner en rapport sat ud i December af en organisation kaldet Anvendt Brain Science of Waterloo, Ontario, som sammenlignede resultater af en tale opdagelse algoritme, der kører på forskellige chips. Den software, der blev trænet til at genkende de søgeord “aloha”, mens også afvise nonsens-sætninger. Virksomheden kørte model på en CPU og en GPU, og har også lavet en version, der kørte på den Loihi chip.

Skal læse

“AI er meget, meget dum, “siger Google’ s AI-leder (CNET), Hvordan man får alle Google Assistant ‘s nye stemmer lige nu (CNET)Samlet Google AI division et klart signal om, at AI’ s fremtid (TechRepublic)Top 5: Ting at vide om AI (TechRepublic)

Den Loihi chip synes at komme ud med en meget bedre energi-effektivitet, som er målt ved antal joule, der kræves for at udføre inferens på opgaven. (Det er værd at bemærke, at Loihi chip, men rent faktisk giver lavere nøjagtighed, som er beskrevet i den fulde version af den Anvendte Videnskab papir, der er til rådighed på arXiv pre-print-server.)

I et andet eksempel, Davies bemærkes, at en grundlæggende klassificeringen opgaven udføres af Loihi var fyrre gange så hurtigt som konventionelle GPU-baseret dyb læring, netværk, med 8% større nøjagtighed.

Davies fortalte publikum, at Loihi bliver “meget mere effektiv”, som det er opgave med større og større netværk. Han bemærkede, at styring af robotter ville være den killer app til neuromorphic chips som Loihi. “Hjerner har udviklet sig til at styre arme og ben” han påpegede, at gøre robot styre en naturlig.

Indpakning op i hans tale, Davies sagde, at “der er en masse arbejde venstre gøres, før vi kan lægge det ud i en kommerciel form, der er anvendelig til en bred vifte af problemer”, men han sluttede på en optimistisk tone, siger, at “Vi kan få algoritmer, der arbejder på at løse Yann’ s skepsis.”

Tidligere og relaterede dækning:

Hvad er AI? Alt, hvad du behøver at vide

En executive guide til kunstig intelligens, fra machine learning og generelt AI til neurale netværk.

Hvad er dyb læring? Alt, hvad du behøver at vide

Den lowdown på en dyb læring: fra hvordan det relaterer til det bredere felt af machine learning igennem til, hvordan du kommer i gang med det.

Hvad er machine learning? Alt, hvad du behøver at vide

Denne vejledning forklarer, hvad machine learning er, hvordan det er relateret til kunstig intelligens, hvordan det fungerer, og hvorfor det er vigtigt.

Hvad er cloud computing? Alt, hvad du behøver at vide om

En introduktion til cloud computing-lige fra det grundlæggende op til IaaS og PaaS, hybrid, offentlige og private cloud.

Relaterede historier:

Google ‘ s AI surfer “gamescape” for at erobre game theory
Dette er, hvad AI ligner (som skitseret ved AI)
Google ‘ s DeepMind hold med førende 3D spil dev platform
DeepMind ‘ s AI pletter tidlige tegn på øjensygdom

Relaterede Emner:

Big Data Analytics

Digital Transformation

CXO

Tingenes Internet

Innovation

Virksomhedens Software