Computer industrien står over episke ændre sig, efterhånden som kravene til “dyb læring” former for machine learning kraft af nye krav på silicium, på samme tid, at Moore ‘ s Lov, den årtier gamle regel om fremskridt i chip forretning, er ved at kollapse.
I denne uge, nogle af de bedste hjerner i chip-industrien samlet i San Francisco til at snakke om, hvad det betyder.
Anvendes Materialer, der er den dominerende producent af værktøjer til at fremstille transistorer, sponsoreret en hel dag af keynotes og panel-sessioner på tirsdag, kaldet “A. I. Design Forum, i samarbejde med en af chip-industrien’ s store årlige messer, Semicon Vest.
De oplæg og diskussioner, havde gode nyheder og dårlige nyheder. På plus-siden, de mange værktøjer, der er til rådighed for virksomheder, såsom Advanced Micro Devices og Xilinx at gøre “heterogene” arrangementer af chips til at opfylde kravene i dyb læring. På den negative side, er det ikke helt klart, hvad de har i deres kit taske vil modvirke en potentiel konsumption af datacentre under vægten af øget design og efterspørgsel.
Ingen nye chips blev vist på Semicon vis, disse typer af unveilings for længst gået til andre messer og konferencer. Men diskussionen ved A. I. forum gav en god fornemmelse af, hvordan chip-industrien tænker om den eksplosion af machine learning, og hvad det betyder for computere.
Anvendes Materialer, der er administrerende direktør Gary Dickerson.
SFFOTO / Anvendt Materialer
Gary Dickerson, chief executive for Anvendt Materialer, startede sin tale med at konstatere, at den “dramatiske opbremsning af Moore’ s Lov, med henvisning til data fra UC Berkeley Professor David Patterson og Alfabet formand John Hennessy, der viser, at nye processorer er en forbedring i ydelse ved at kun 3,5% per år. (Tallet er lidt forældet; et essay af Patterson og Hennessy tilbage i februar knyttet nedgang til 3% forbedring pr år.)
Dickerson gik på at hævde, at A. I. arbejdsmængder i datacentre over hele verden kunne komme til at repræsentere så meget som 80% af alle beregne cykler og 10% af det globale elforbrug i det næste årti eller deromkring.
Det betyder, at den industri er nødt til at søge mange veje til løsninger, sagde Dickerson, herunder “nye arkitekturer” for chip-design og nye former for hukommelse chips. Han nævnte flere typer af hukommelse, herunder “MRAM,” “ReRAM,” (resistive RAM), “PCRAM,” (fase-skift RAM), og “FeRAM.” Branchen vil også nødt til at udforske analog chip design, chips at manipulere data som kontinuerlig, real-valued signaler, snarere end diskrete enheder, og nye typer af materialer ud over silicium.
Også: AI er en ændring af hele naturen af compute
Både Advanced Micro Devices ‘s chef, Lisa Su, og Xilinx’ s administrerende DIREKTØR, Victor Peng, lavet en standplads til deres respektive roller i at gøre det muligt heterogene typer af it.
Su talte om selskabet, “Epyc,” server-chip, der arbejder omkring Moore ‘ s Lov flaskehals ved at samle sammen af flere silicium terningerne, kaldes “chiplets,” i en enkelt pakke, med en high-speed memory bus, der forbinder chiplets, til at opbygge en slags chip, der er sit eget edb-system.
Masser af nye typer hukommelse er blandt de foranstaltninger, som industrien har brug for at fokusere på at slås med den kraftige stigning i A. I. arbejdsmængder.
Anvendte Materialer
Peng rehashed bemærkninger fra den virksomhed, Kan investor dag i New York, siger, at Xilinx ‘ s programmerbare chips, “Fpga’ er,” kan håndtere ikke kun den matrix multiplikationer af A. I., men også de dele af traditionel software udførelse, der skal ske før og efter machine learning operationer.
En senior Google ingeniør, Klippe Unge, der gik i detaljer af Tensor Processing Unit, eller “TPU” chip, som Google har udviklet, der starter i 2013. Den indsats, der blev bedt om det, sagde han, af en slags panik. Virksomheden oplevede, at med mere og mere machine learning tjenester, der kører på Google, “matrix multiplikationer var ved at blive en mærkbar del af flåden, cykler,” i Googles datacentre. “Hvad hvis alle taler til deres telefoner to minutter om dagen, eller ønsker at analysere videoklip til to minutter om dagen,” brug af machine learning, spurgte han retorisk. “Vi har ikke computere nok.”
“Der var potentiale i, at for både succes og katastrofe,” sagde han om den eksploderende efterspørgsel efter A. I. tjenester. “Vi begyndte at en 15-måneders crash-projekt for at opnå en ti-X forbedring i ydelse.”
Trods nu på tredje iteration af TPU, Unge stiltiende krisen er ikke ovre. Beregne efterspørgslen er stigende “cubicly,” sagde han, taler af matrix multiplikationer. Google har hele lageret mellemstore bygninger fulde af “pods” containere, der har flere stativer fyldt med TPUs. Stadig vil det ikke være nok. “Selv Google vil nå grænserne for, hvordan vi kan skalere data centre.”
Gør dig klar til et lager flaskehals, med andre ord.
Google ingeniør Klippe Unge
Kelsey Floyd
Young sagde, at der vil være en masse samarbejde mellem hardware designere og software programmører, hvad han kaldte “co-design”, men også co-design med materialer, fysikere, foreslog han.
“Når du gør co-design, det tværfaglige arbejde, og du er en fremmed i et fremmed land”, bemærkede han. “Vi er nødt til at komme ud af vores comfort-zone.”
“Kan vi bruge optiske transceivere” til at manipulere neurale net, han undrede sig over. Optiske design er “awesome på matrix multiplikation,” bemærkede han, men det er ikke meget godt ved en anden afgørende del af neurale netværk, den ikke-lineære aktivering af funktioner for hver kunstige neuron.
“Emballagen er en ting, hvad kan vi mere gøre med emballage og chiplets?” spurgte han. Industrien har brug for alternativer til CMOS, de grundlæggende silicium materiale af chips, sagde han, som et ekko af Dickerson. In-memory-computing vil også være vigtigt, sagde han, der beregninger tæt på memory celler, snarere end at flytte dem frem og tilbage til og fra hukommelse til processor og tilbage langs en konventionel memory bus.
Unge, der tilbydes, der machine learning kan åbne nye muligheder for analog computing. “Det er mærkeligt, at vi har denne digitale lag mellem real-nummererede neurale net og de underliggende analoge enheder,” sagde han, tegne en forbindelse mellem den statistiske eller stokastiske natur af både A. I. og silicium. “Måske har vi ikke altid behøver at gå tilbage i stumper hele tiden,” funderede Unge.
I betragtning af alle de udfordringer, “det er en super-cool tid til at være styrende for
Også: Google siger, ‘eksponentielle vækst af AI er ved at ændre karakter beregne
Relaterede Emner:
Cloud
Digital Transformation
CXO
Tingenes Internet
Innovation
Virksomhedens Software