Intels arkitektsjef, Raja Koduri.
Behandlingen av nevrale nettverk for kunstig intelligens er i ferd med å bli en hoveddel i arbeidsmengden til alle typer brikker, ifølge chipgiganten Intel, som torsdag avduket detaljer om kommende prosessorer under det årlige ritualet “Arkitekturdagen”.
“Nevrale nett er de nye appene,” sa Raja M. Koduri, senior visepresident og daglig leder for Intels Accelerated Computing Systems and Graphics Group, i et intervju med ZDNet via Microsoft -team.
“Det vi ser er at hver socket, det er ikke CPU, GPU, IPU, alt vil ha matriseakselerasjon,” sa Koduri.
Koduri overtok Intels nyopprettede Accelerated Computing Unit i juni som en del av en bred omorganisering av Intels ledende ledelse under administrerende direktør Pat Gelsinger.
Koduri hevdet Intel ved å fremskynde matrisemultiplikasjonene i hjertet av nevrale nettverk, Intel vil ha de raskeste brikkene for maskinlæring og dyp læring, og enhver form for kunstig intelligensbehandling.
Også: Intel danner akselerert databehandling, forretningsenheter for programvare
“Vi er den raskeste AI -CPUen, og vår Sapphire Rapids, vår nye datasenterarkitektur, er den raskeste for AI -arbeidsmengder, våre nye GPU -er, ingen så langt, det har vært dusinvis av oppstart, men ingen slo Nvidia på en treningsreferanse, og det har vi demonstrert i dag. ”
Intel viste en demonstrasjon der den kommende frittstående GPU-en, Ponte Vecchio, bestod Nvidias A100 GPU i en felles referanseoppgave for nevrale nettverk, og kjørte det nevrale ResNet-50-nettverket for å kategorisere bilder fra ImageNet bibliotek med fotografier.
Intel hevder pre-prodution-versjoner av sin Ponte Vecchio GPU kan best Nvidia på et standardmål for nevrale nettverksytelse i deep learning-applikasjoner, der ResNet-50 nevrale nettverk må trenes for å behandle tusenvis av bilder per sekund fra ImageNet bildesamling .
Intel hevder at Ponte Vecchio også kan lage spådommer raskere med ResNet-50 på ImageNet sammenlignet med Nvidia og andre i såkalte inferene oppgaver.
I demonstrasjonen hevder Intel at Ponte Vecchio, i silisium før produksjon, er i stand til å behandle over 3400 av bildene på ett sekund, og toppet tidligere poster med 3000 bilder. Det er for nevrale nettverkstrening. Inferensområdet, når et opplært nevralnett gjør spådommer, er Ponte Vecchio i stand til å gjøre forutsigelser for over 43 000 bilder på et sekund, og topper det det siteres som den konkurrerende toppscoren på 40 000 bilder per sekund.
Intels Xeon -brikker har en tendens til å dominere markedet for AI -slutning, men Nvidia har gjort innhopp. Intel har liten andel i opplæring i nevrale nettverk, mens Nvidia dominerer feltet med sine GPUer.
Koduri sa at selskapet har til hensikt å konkurrere mot Nvidia i den årlige bake-off av AI-brikker, MLPerf, hvor selskapet hevder skryt på ResNet-50 og andre slike referanseoppgaver.
Arkitekturdagen fokuserer på Intels veikart for hvordan chipsenes design av kretser vil legge ut transistorer og funksjonelle blokker på brikken, for eksempel aritmetiske logiske enheter, cacher og rørledninger.
En arkitekturendring, for Intel eller for ethvert selskap, bringer nye “kjerner”, hjertet til prosessoren som styrer hvordan “datapaten” administreres, det vil si lagring og gjenfinning av tall, og kontrollbanen, betydningen, bevegelsen instruksjoner rundt brikken.
Mange aspekter ved de nye CPU -ene har blitt avslørt tidligere av Intel, inkludert på fjorårets arkitekturdag. Selskapet må få programvaredesignere til å tenke på og jobbe med prosessorene sine år før de er klare til å rulle av linjen.
For eksempel har verden visst at Intel kom til å markedsføre en ny CPU for klientdatamaskin, kalt Alder Lake, som kombinerer to typer CPUer. Torsdag kunngjorde Intel at de ville gi nytt navn til de to, tidligere kodenavnet Golden Cove og Gracemont, som “Performance Core” og “Efficient Core.” Flere detaljer om det fra ZDNet's Chris Duckett.
Også: Intel avslører Alder Lake hybridarkitektur med effektive og ytelseskjerner
Blant de nye avsløringene i dag er at de nye CPUene vil benytte seg av en maskinvarestruktur kjent som “Thread Director”. Thread Director tar kontroll over hvordan kjøringstråder er planlagt kjørt på prosessoren på en måte som tilpasser seg faktorer som energibruk, for å motta operativsystemet til noen av den rollen.
“Hele måten operativsystemet samhandler med maskinvare er en maskinvareinnovasjon.” Intel, Thread Director, “gir telemetri på lavt nivå om kjernens tilstand og instruksjonsblandingen av tråden, noe som gir operativsystemet mulighet til å plassere den riktige tråden på riktig kjerne til rett tid.”
Thread Director, en maskinvareplan som vil overta en del ansvar for administrering av instruksjonstråder fra operativsystemet, var en av de nye elementene som ble diskutert på Intels archticture -dag.
Intel
En annen ny avsløring er hvordan brikkene vil gjøre bruk av minnebåndbredde -teknologier. For eksempel vil Intels kommende datasenterprosessor, Sapphire Rapids,
Alder Lake støtte PCIe Gen 5, DDR 5 -minnegrensesnitt, ble det avslørt.
Intel avslørte at den kommende datasenterprosessoren Sapphire Rapids, den neste epoken i Xeon -familien, vil ha visse ytelsesaspekter. For eksempel vil brikken utføre 2048 operasjoner per klokkesyklus på 8-bits heltall datatyper ved å bruke det Intel kaller sin AMX, eller “avanserte matriseutvidelser.” Igjen er det vekt på nevrale nettoperasjoner. AMX er en spesiell form for matrisemultiplikasjonsevne som vil fungere på tvers av separate fliser på en brikke. Sapphire Rapids består av fire separate fysiske fliser som hver har CPU og akselerator og input/output -funksjoner, men som ser ut til operativsystemet som en logisk CPU.
Intel hevder Sapphire Rapids er optimalisert for AI via utvidelser som AMX.
Intel
Sapphire Rapids er et eksempel på hvordan Intel i økende grad ser på den fysiske konstruksjonen av chips på tvers av flere underlag som en fordel. Bruken av flere fysiske fliser, for eksempel i stedet for en monolitisk halvleder-dør, bruker det som Intel dobbelter sin innebygde multi-die-sammenkoblingsbro.
Torsdagens presentasjon inneholdt også mye diskusjon om Intel-prosessteknologi, som selskapet har søkt å rette opp etter feilsteg de siste årene.
På grunn av grensene for Moore's Laws tradisjonelle skalering av transistorstørrelse, sa Koduri, er det avgjørende å utnytte andre fordeler som Intel kan bringe i sponfremstilling, inkludert stabling av flere terninger i en pakke.
“I dag er det langt viktigere for arkitekter å utnytte alle verktøyene i prosess- og emballasjeverktøyet enn for ti år siden for å bygge dette,” sa Koduri. “Før var det, ja, ja, ja, den tradisjonelle Dennard -skaleringen, Moores lov tok seg av det, ta min nye CPU, legg den på den nye prosessnoden, du får det gjort.”
må lese
Etikk for AI: Fordeler og risiko ved kunstig intelligens
Den økende omfanget av AI øker innsatsen for store etiske spørsmål .
Les mer
Relaterte emner:
Hardware Digital Transformation CXO Internet of Things Innovation Enterprise Software 