Nul
Als het geluk is een ander woord voor het gevoel van op de juiste plaats op de juiste tijd, je zou kunnen zeggen dat we geluk hebben. Graphcore, de heetste naam in AI-chips, is op onze radar voor een tijdje nu, en een discussie met Graphcore de oprichters was gepland voordat het nieuws over het uitbreken van deze week.
Graphcore, zoals u wellicht hebt gehoord door nu, net beveiligd nog eens $200 miljoen financiering van BMW, Microsoft en toonaangevende financiële investeerders om het leveren van ‘ s werelds meest geavanceerde AI-chip in de schaal. Namen omvatten het graag van Atomico, Merian, Pop, Investment Company Limited, Sofina, en Sequoia. Als Graphcore CEO en Oprichter Nigel Toon gedeeld, Graphcore had om beleggers voor deze ronde, met inbegrip van, oorspronkelijk, de iconische Sequoia fund.
Ook: AI Opstarten Giervalk spins overvloed van chips voor machine learning
Graphcore is nu officieel een eenhoorn met een waardering van $1,7 miljard. Graphcore partners zoals Dell, ‘s werelds grootste server producent, Bosch, de grootste leverancier ter wereld van de elektronica voor de auto-industrie, en Samsung,’ s werelds grootste bedrijf voor consumentenelektronica, hebben toegang tot de chips al. Dus, hier is uw kans om zich voor te bereiden, en te begrijpen, de revolutie die je te zien ontvouwen in de niet-zo-verre toekomst.
Leren hoe de hersenen werken is één ding, het modelleren van chips na het andere
Graphcore is gevestigd in Bristol, ENGELAND, en werd opgericht door de halfgeleider industrie veteranen Nigel Toon, CEO, en Simon Knowles, CTO. Toon en Knowles waren eerder betrokken bij de bedrijven zoals Altera, Element14, en Icera die is afgesloten voor de gecombineerde waarde in de miljarden. Toon is positief ze kan, en zal, verstoren de semiconductor industrie meer dan ooit rond deze tijd, het breken van wat hij ziet als het bijna-monopolie van Nvidia.
Nvidia is de dominante speler in AI workloads met de GPU-chips, en het blijft in ontwikkeling. Er zijn meer spelers in het domein, maar Toon gelooft dat het alleen Nvidia heeft een duidelijke, samenhangende strategie en een effectieve product in de markt. Er zijn ook spelers zoals Google, met haar TPU investeren in AI chips, maar Toon vorderingen Graphcore heeft de leading edge en een fantastische gelegenheid om een imperium opbouwen met de IPU (Intelligente Processor Unit) chip. Hij citeert het succes van ARM mobiele processors versus gevestigde ondernemingen van de tijd als een voorbeeld.
Ook: Intel zegt dat het verkocht meer dan $1 MILJARD in AI chips in 2017
Om inzicht te krijgen In zijn vertrouwen, en dat van investeerders en partners, we nodig hebben om te begrijpen wat precies Graphcore doet en hoe die verschilt van de concurrentie. ‘Machine learning’ en AI zijn de meest snel groeiende en technologieën. Machine learning, dat is de kern van wat wordt genoemd AI deze dagen, is in feite zeer efficiënte patroon, gebaseerd op een combinatie van de juiste algoritmen (modellen) en gegevens (opleiding sets).
Sommige mensen gaan tot het uiterste van bellen AI, wezen -, matrix-vermenigvuldiging. Hoewel dergelijke reductionisme is de vraag, blijft het een feit dat veel van machine learning is over efficiënte gegevensverwerking in de schaal. Dit is de reden waarom Gpu ‘ s zijn zo goed in het machine learning workloads. Hun architectuur, oorspronkelijk ontwikkeld voor grafische rendering, heeft bewezen zeer efficiënt voor de gegevensverwerking.
Graphcore revolutie hardware en software, met behulp van Grafieken
Wat Graphcore heeft gedaan, echter, is om te investeren in een nieuwe architectuur helemaal. Dit is de reden waarom de Toon van overtuigd dat zij een voorsprong op andere opties, die hij ziet als het toevoegen van ad-hoc, incrementele verbeteringen. Toon merkt op dat wat de concurrentie doet, is het effectief bouwen van gespecialiseerde chips (asic ‘ s) die zijn heel goed in bepaalde wiskundige bewerking op de data, die geoptimaliseerd zijn voor een specifieke workload. Dit, zo betoogt hij, zal niet voor morgen de werkbelasting.
Ook: AI Opstarten Cornami onthult de details van de neurale netto-chip
Dus, wat is er zo speciaal aan Graphcore eigen architectuur? Er is enige speculatie dat Graphcore is het bouwen van wat wordt genoemd een neuromorphic AI-chip: Een processor gebouwd naar het model van het menselijk brein, met haar neuronen en synapsen weerspiegeld in de architectuur. Knowles, echter, verdrijft deze misvatting:
“De hersenen zijn een grote voorbeeld voor de computer architecten in deze dappere nieuwe poging van machine-intelligentie. Maar de sterke en zwakke punten van silicium zijn heel anders dan die van wetware. We hebben niet gekopieerd natuur patroon voor vliegende machines, noch voor oppervlakte-locomotion, noch voor motoren, omdat onze technische materialen zijn verschillend. Zo ook met de berekening.
Bijvoorbeeld, de meeste neuromorphic computing projecten advocaat communicatie door elektrische pieken, zoals de hersenen. Maar een fundamentele analyse van de energie-efficiëntie onmiddellijk concludeert dat een elektrische puls (twee kanten) is half zo efficiënt te zijn voor de informatie-overdracht als één van de rand, zodat het volgen van de hersenen is niet automatisch een goed idee. Ik denk computer architecten moeten er altijd naar streven om te leren hoe het brein berekent, maar moet niet streven naar het letterlijk kopiëren van het in silicium.”
Het breken van de Wet van Moore, beter te presteren Dan de Gpu ‘ s
Energie-efficiëntie is inderdaad een beperkende factor voor neuromorphic architecturen, maar het geldt niet alleen daar. Toon, wanneer gevraagd om commentaar te geven op de grenzen van de Wet van Moore, merkte op dat we zijn gegaan dan iedereen dacht dat mogelijk was, en we hebben nog 10 tot 20 jaar van vooruitgang. Maar, ging hij toe, we hebben bereikt wat fundamentele grenzen.
Toon denkt dat we hebben bereikt de laagste spanning die we kunnen gebruiken op die chips. Dus, we kunnen meer transistors, maar we kunnen het niet maken ze gaan veel sneller: “Uw laptop nog steeds draait op 2Ghz, het is net meer kernen. Maar we moeten nu duizenden kernen te werken met machine learning. We hebben een verschillende architecturale proces voor het ontwerp van chips in verschillende manieren. De oude manieren van doen niet werken.”
Ook: AI chips voor big data en machine learning: Gpu ‘s, fpga’ s
Toon zei IPUs zijn een general purpose machine-intelligentie-processor, speciaal ontworpen voor machine-intelligentie. “Een van de voordelen van onze architectuur is dat het geschikt is voor veel van de huidige machine learning methoden zoals CNNs, maar het is ook geoptimaliseerd is voor de verschillende machine learning methoden zoals de versterking van het leren en toekomstige benaderingen ook,” zei hij. “De IPU architectuur stelt ons in staat beter te presteren dan de Gpu’ s — het combineert massief parallellisme met meer dan 1000 onafhankelijke processor cores per IPU en de on-chip geheugen, zodat het hele model kan worden gehouden op een chip”.
Maar hoe werkt de IPU te vergelijken met Nvidia ‘s Gpu’ s in de praktijk? Recentelijk zijn enkele machine learning benchmarks werden uitgebracht, waarbij Nvidia werd aangetoond beter te presteren dan de concurrentie. Wanneer u wordt gevraagd om zijn gedachten op deze, Toon zei ze op de hoogte zijn van hen, maar gericht op het optimaliseren van de klant-specifieke toepassingen en workloads nu.
Hij heeft eerder vermeld, maar dat de structuur van de gegevens voor machine learning verschillend zijn, aangezien ze een hoge dimensionale complexe modellen. Dit, zei hij, betekent omgaan met gegevens op een andere manier. Toon opgemerkt dat de Gpu ‘ s zijn zeer krachtig, maar niet noodzakelijk efficiënt in hoe ze omgaan met deze gegevens structuren: “Wij hebben de kans om iets te creëren 10, 100 keer sneller voor deze data structuren”.
Graphcore intelligente processing unit (IPU) is gemaakt van een systeem van modulaire tegels die kunnen worden gemonteerd op verschillende manieren
Snelheid, echter, is het niet nodig om te slagen in dit spel. Nvidia, bijvoorbeeld, slaagde er niet alleen omdat de Gpu ‘ s zijn krachtig. Een groot deel van zijn succes, en een onderscheidende factor over GPU concurrenten zoals AMD, is de software laag. De bibliotheken die ingeschakeld ontwikkelaars om te abstraheren van de hardware details en een focus op het optimaliseren van hun machine learning algoritmen, parameters en processen zijn een belangrijk onderdeel van Nvidia ‘ s succes.
Ook: AI opstarten Flex-Logix touts hogere prestaties dan Nvidia
Nvidia houdt zich ontwikkelende deze bibliotheken, met het laatste RAPIDS bibliotheek met de belofte van een 50-voudige GPU-versnelling van data-analyse en machine learning ten opzichte van Cpu ‘ s. Waar komt Graphcore staan in de vergelijking? Toon erkent dat de software is enorm belangrijk, gaat op aan toevoegen dat, naast de bouw van de ‘ s werelds meest complexe silicium processor, Graphcore heeft ook de bouw van de eerste software-tool chain specifiek ontworpen voor machine-intelligentie, genaamd Populier.
Volgens Toon:
“Wanneer Graphcore begon was er geen TensorFlow of PyTorch, maar het was duidelijk dat, om dit doel opkomende wereld van kennis modellen hadden we opnieuw nadenken over de traditionele microprocessor software stack. De wereld heeft verplaatst van de ontwikkelaars van het definiëren van alles in termen van vectoren en scalars één van grafieken en tensoren.
In deze nieuwe wereld, traditionele tool ketens hebben niet de capaciteiten die vereist zijn om een gemakkelijke en open platform voor ontwikkelaars. De modellen en toepassingen van server 2.0 worden massaal parallelle en rekenen op miljoenen identieke berekeningen te worden uitgevoerd, op dezelfde tijd.
Deze werklast bepalen, die voor een maximale efficiëntie modellen moet stay resident, en moet toelaten de data te streamen via hen. Bestaande architecturen die een beroep doen op het streamen van zowel de code van applicaties en gegevens door de processor voor het implementeren van deze modellen zijn inefficiënt voor dit doel, zowel in hardware bouwen en in de methoden die worden gebruikt in de tool kettingen die hen ondersteunen.”
Software 2.0, Berekenen 2.0, en Computational Grafieken
Graphcore vertelt over het Berekenen 2.0, anderen praten over Software 2.0. Deze twee sterk verwante als nieuw paradigma voor de ontwikkeling van de applicatie. Bij de bespreking van het Berekenen van 2.0, Toon opgemerkt dat voor 70 jaren hebben we vertellen computers wat te doen stap voor stap in een programma, dat is de bekende algoritmische proces. Nu, hij zei: “wij leren van gegevens.
Eerder dan het programmeren van de machine, de machine leert — vandaar, machine learning. Dit is een fundamentele verandering in de ontwikkeling en het gedrag van toepassingen. De processen voor het bouwen van software moet worden aangepast, en de software kan display niet-deterministisch, of ten minste, niet-verklaarbaar gedrag. Dit lijkt op de manier van de toekomst, echter, en Toon op gewezen dat, met voldoende gegevens en berekenen, kunnen we bouwen aan modellen die beter presteren dan mensen in patroonherkenning taken.
Ook: AI ‘ s onverzadigbare eetlust voor silicium vereist nieuwe chips
“Als we praten over de Populier wordt ontworpen voor machine-intelligentie, wat betekent dat, wat zijn de eigenschappen die een dergelijke tool chain vereist. Het moet in de eerste plaats gebruik maken van de grafiek als de toets te construeren. De grafiek geeft een beeld van de kennis van het model en de toepassing die is gebouwd door de “tool chain”. Populier is gebouwd rond een rekenkundige grafiek abstractie, de interne representatie (IR) van de grafiek compiler is een groot gerichte graaf,” Toon zei.
Graphcore, net als anderen, is het gebruik van grafieken als een fundamentele metafoor waarop de benadering van software en berekenen voor machine-intelligentie is gebouwd. Toon opgemerkt dat de grafiek beelden gedeeld door Graphore zijn de interne representatie van hun grafiek compiler. Een weergave van het gehele kennis-model afgebroken om de enorme parallelle taken, die Graphcore schema ‘ s en voert over de IPU-processor.
De IPU-processor en Populier werden samen ontworpen en Toon zei dit ontwerp filosofie van zowel silicon architectuur en programmeren van software-omgeving ontwikkeld op deze manier weerspiegelt de cultuur en omgeving van Graphcore:
“De techniek die we doen is open en collaboratieve in de manier waarop we bouwen onze technologie. Populier ondersteunt het ontwerp beslissingen die wij in onze chip, te bouwen en te draaien geoptimaliseerd machine-intelligentie-modellen in plaats van met een geoptimaliseerd BSP (bulk synchroon parallel) uitvoering model.
Het is gebouwd ter ondersteuning van de concepten van het scheiden van berekenen en communicatie voor energie-efficiëntie en ook om te communiceren met de host platformen te verwijderen van de knelpunten die de pest bestaande platforms die worden aangevuld met ondersteuning voor machine learning in plaats van voor ontworpen.
Samen met het ondersteunen en waarmee gebruikers toegang tot onze high-performance IPU-platform, de Populier tool ketting is eenvoudig te gebruiken zijn voor ontwikkelaars. Het is om naadloos te integreren in de backend van machine learning kaders zoals PyTorch en Tensorflow en een runtime-netwerk uitwisselingsformaten zoals ONNX zowel voor aanname en opleiding van werkbelasting.”
Populier ondersteunt TensorFlow, PyTorch, ONNX en Keras nu, en zal de uitrol van ondersteuning voor andere machine learning kaders in de loop van 2019 en zoals nieuwe kaders worden weergegeven. Toon zei dat, door het gebruik van Populier als de back-end van deze kaders kunnen gebruikers toegang krijgen tot de voordelen van het hebben van hun machine learning modellen doorgegeven door middel van het optimaliseren van een grafiek compiler voor alle vereiste taken, in plaats van alleen het eenvoudige patroon dat wordt gebruikt in de legacy software platforms.
Ook: Chip opstarten Efinix hoopt bootstrap AI inspanningen in de IoT
“Het is niet alleen over het uitvoeren van de modellen en constructies van vandaag, de vernieuwers en de onderzoekers hebben behoefte aan een platform voor het ontwikkelen en verkennen van de oplossingen van morgen met een eenvoudig te gebruiken en programmeerbaar platform,” zei hij. “Het veld van machine-intelligentie wordt tegengehouden door de software bibliotheken voor hardware platforms, die zijn niet open en uitbreidbaar verstrekken van een zwarte doos aan ontwikkelaars die willen innoveren en evolueren ideeën.”
De revolutie is klaar om te verzenden, grafiek is gebaseerd, en open source
Als je net als ons, kan je je afvragen wat die grafieken zijn graag buiten hun opmerkelijke beelden. Wat voor soort van structuren, modellen en het formalisme heeft Graphcore gebruik te vertegenwoordigen en te werken met grafieken? Zouden ze zo ver gaan als het om ze te bellen kennis grafieken?
“We noemen ze computational grafieken. Alle machine learning modellen zijn het best uitgedrukt in grafieken — dit is hoe TensorFlow net zo goed werkt. Het is gewoon dat onze grafieken zijn ordes van grootte complexer, want we hebben een grootte-orde parallellisme voor de grafieken te exploiteren op onze chips,” zei Toon.
Maar als je echt nieuwsgierig bent, is er goed nieuws — je hoeft alleen te wachten op een beetje meer. Toon beloofd dat na verloop van tijd Graphcore zal het verstrekken van IPU-ontwikkelaars volledige open-source toegang tot zijn geoptimaliseerd grafiek bibliotheken zodat ze kunnen zien hoe Graphcore bouwt toepassingen. We zijn zeker naar uit, toe te voegen aan Graphcore de huidige en toekomstige plannen voor het spoor.
Ook: Voldoen aan de Jetson Xavier: Nvidia ‘ s AI-chip
Graphcore is al verzendkosten productie van de hardware tot de vroege toegang voor de gasten. Toon zei Graphcore verkoopt PCIe-kaarten, die klaar zijn om sleuf server platformen, de zogenaamde C2 IPU-Processor kaarten. Ze bevatten twee IPU processors elke. Hij merkte ook op dat zij werken met Dell als channel partner voor het leveren van Dell server platformen te enterprise-klanten en cloud klanten.
Volgens Toon zullen de producten worden op grotere schaal beschikbaar komende jaar. In eerste instantie richten op het datacenter en de cloud, en een aantal van de rand van toepassingen die vereisen zware berekenen — als autonome auto ‘ s. Graphcore is momenteel niet targeting consument de rand-apparaten zoals mobiele telefoons.
Graphcore het nakomen van zijn beloften zal niets minder dan een revolutie, zowel op de hardware en de software laag.
Vorige en aanverwante dekking:
Wat is AI? Alles wat je moet weten
Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.
Wat is diep leren? Alles wat je moet weten
De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.
Wat is machine learning? Alles wat je moet weten
In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.
Wat is cloud computing? Alles wat u moet weten over
Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.
Verwante artikelen:
Nvidia AI-onderzoek wijst op een evolutie van de chip business
Huawei onthult AI Ascend chips
Golf Computing dicht bij de onthulling van de eerste AI-systeem
Nvidia ‘ s prachtige vervalsingen pak de zwarte doos van AI Qualcomm bet $100M op de nieuwe AI venture fonds CNETIBM verhoogt AI chip snelheid, het brengen van diep leren TechRepublic
Verwante Onderwerpen:
Hardware
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software
0