Fördelarna med öppen källkod erbjuder i termer av innovation och antagandet har förtjänat det en plats i enterprise-programvaran. Vi kunde till och med gå så långt som att säga att öppen källkod är att bli normen inom affärssystem. Men open source hårdvara, chips att vara specifik, och AI marker för att vara ännu mer specifik? Är det en sak?
Också: AI Start Jaktfalk spins uppsjö av marker för maskininlärning
Det är det tydligen. GreenWaves, en start baserad i Grenoble, Frankrike, är bara att göra det. GreenWaves är att utveckla anpassade, ultra-low power specialiserade marker för maskininlärning. Dessa specialiserade marker utnyttja parallellism och en multi-core-arkitektur för att köra maskinen lärande arbetsbelastning vid kanten, på batteri-drivna enheter med extrema begränsningar. Marker GreenWaves gör bygger på open source-design, och gör vågor faktiskt.
GreenWaves meddelade bara ett 7M€ Serien En Finansiering med Huami, Soitec, och andra investerare. Enligt tillkännagivandet, medel kommer att finansiera försäljningen ramp av GreenWaves första produkt, GAP8, och utvecklingen av företagets nästa generation produkt. ZDNet diskuteras med Martin Croome, GreenWaves vice vd för Produktutveckling, för att ta reda på vad detta handlar om.
Öppen källkod mikroprocessorer för sakernas internet
Först ut, vad innebär öppen källkod även menar när vi pratar om mikroprocessorer? Som Croome förklarade, vad är öppen källkod i detta fall är det instruction set architecture (ISA), och den parallella ultra low power computing-plattform (MASSA) som sitter på toppen av det.
Också: AI Start Cornami avslöjar detaljer om neurala nätet chip
GreenWaves är en fabless chip tekokare. Vad detta betyder är att det mönster chip arkitekturer, och det bygger sedan upp dem genom att lägga till några maskinvarutillverkaren. Så, GreenWaves använder låg nivå byggstenar, anpassa dem och kombinera dem med egna tillägg, för att producera en egen design.
Detta tillvägagångssätt är något som påminner om öppna core: En öppen källa core, med egna tillägg som lägger till värdet. De byggstenar som GreenWaves använder är RISC-V instruction set, och MASSA.
MASSA är en öppen källkod parallella ultra-low power plattform där innovativa chip mönster kan skapas.
RISC-V är ett open-source hårdvara ISA bygger på etablerade reduced instruction set computer (RISC) principer. RISC-V kan användas för royalty-fri för alla ändamål och inleddes 2010 vid University of California, Berkeley. RISC-V har många bidragsgivare och användare i branschen. Som Loic Lietar, GreenWaves’ co-grundare och VD noteras, de gillar Nvidia och Google använder också RISC-V. Detta innebär RISC-V bidrag växa, och vem som helst kan dra nytta av.
Också: AI marker för big data och maskininlärning: Grafikprocessorer, Fpga: er
MASSA är en parallell ultra-low power multi-core plattform som syftar till att tillfredsställa de beräkningar krav IoT-tillämpningar som kräver en flexibel bearbetning av data strömmar som genereras av flera sensorer. MASSA vill möta computational krav för IoT-tillämpningar, utan att överskrida den makt kuvert av några milliwatt som är typiska för miniatyriserade, batteri-drivna system.
MASSA började som ett samarbete mellan ETH Zürich och Universitetet i Bologna 2013. GreenWaves vuxit ur MASSA 2014, som CTO och grundare, Eric Flamand, var också en av grundarna i MASSA. Snabbspola framåt till idag, och GreenWaves har 20 anställda, som levereras i en första omgång GAP8 marker till kunder, och tog upp en totalt 11.5.
Realtid bearbetning vid kanten
Croome noteras att GreenWaves behövs mycket mindre inkomst än vad chip startups behöver vanligtvis, som oftast spenderas med att få IP-rättigheter för design. GreenWaves inte ha att göra detta, och detta gjorde finansiering enklare. Eller, som Lietar uttryckte det för några år sedan, när GreenWaves skulle nämna öppen källkod marker, det fanns en god chans att de skulle kastas ut ur rummet. Inte längre.
Också: AI start Flex Logix svartabörshajar betydligt högre prestanda än Nvidia
Så, vad är så speciellt med GAP8, vad kan det användas till, och hur?
GAP8 har en integrerad, hierarkisk arkitektur. Den är värd 8 utökad RISC-V-kärnor och en HWCE (Hårdvara Faltning Motor). GreenWaves lovar ultra low power 20x bättre än den state-of-the-art för art på innehåll förståelse. Innehållet i detta sammanhang kan betyda allt från bilder till ljud eller vibration sensor input.
Vad GAP8 är avsedda att göra är att processen att data på kanten i realtid, utan att behöva samla in och skicka för bearbetning till vissa avlägsna data center. För att göra detta, det måste vara fullt programmerbar, smidig, och har låga installations-och driftkostnader.
GAP8 arkitektur
Den agila del är det, som GAP8 kan vakna upp från viloläge 0,5 millisekunder. Som Croome noteras, såsom chips placeras på kanten spendera en stor del av sin livstid, och att faktiskt göra ingenting. Så det var viktigt att utforma något att sova som förbrukar så lite ström som möjligt, och sedan vakna upp, och växlar funktionslägen, så snabbt och effektivt som möjligt.
Också: AI omättliga aptit för kisel kräver nya marker
Den låga installations-och driftkostnader är det också, som GreenWaves lovar års drift på batterier, eller ännu bättre solceller. Som GAP8 kan fungera över trådlösa lösningar till exempel LoRa, GreenWaves lovar också en 10 – till 100 – faldig minskade kostnader över fasta installationer.
Så, vad kan GAP8 göra? Kunderna använder GAP8 för saker som att räkna människor eller föremål, vibrationer och ljud analys, objektigenkänning, och mer. Vissa delar av programmet är smarta städer, industri -, säkerhets-och konsumentprodukter. Den riktigt intressanta delen är dock i hur det hela fungerar.
Utbyggnaden av modeller
Alla dessa program bygger på att med hjälp av maskininlärning, och mer specifikt, neurala nätverk. GAP8 tar hand om inferens, vilket innebär att modellerna tränas först, och sedan ut på GAP8. Och det är där det blir lite knepigt.
Också: Chip start Efinix hoppas att bootstrap-AI insatser i sakernas internet
GAP8 är programmerbara via C eller C++. Så hur gör man för att komma från en modell byggd med TensorFlow, eller PyTorch, och den andra maskinen lärande bibliotek, att införandet av en GAP8? Programvaran stack för detta är öppen källkod och finns på GitHub.
Exempel finns för utveckling kassaflöde från TensorFlow till C. Men det finns ett par gotchas. För det första, för närvarande GAP8 fungerar endast med TensorFlow. Croome sade detta en fråga om resurser och prioriteringar, och integration med andra ramverk kommer att tillhandahållas. För närvarande, tillade han, vad människor gör är att port modeller som skapats i andra ramar för att TensorFlow via ONNX.
Sedan, om du väntar en klickning, du är i för en besvikelse. Som Croome förklarade, flödet är baserade verktyg snarare än att vara monolitisk. Detta innebär att ett antal verktyg som tillhandahålls av GreenWaves måste utnyttjas för att implementera modeller för att GAP8.
Croome konstaterade att “all funktionalitet i GAP8 är synliga för programmeraren, men att vi förser redan skrivna och optimerad kod som börjar på ett block för att få upp något och kör snabbt. Den HWCE påskyndar faltning drift men som all hårdvara block det fungerar på särskilda faltning typer. Om det inte matchar ett visst lager och sedan kan man alltid skyndat på kluster kärnor genom programmering.”
Att föra energieffektivitet till IoT-arkitektur
Det viktiga här är dock förmågan att på ett effektivt sätt behandla uppgifter i kanten. Med en processor som GAP8, Croome noteras, man kan analysera innehållet produceras av en rik data sensor och bara ladda upp resultatet, till exempel hur många personer i ett rum:
Även: Träffa Jetson Xavier: Nvidia: s AI-chip
“Detta kan också överföras i en tidsserie databasen via en IoT-Applikation plattform (som också kan endast träffas efter överföring över en låg hastighet LPWAN typ nätverket ytterligare minimera dataöverföring). Den energi som går åt i att göra denna analys och trådlös överföring av resultaten, vilket kan ses som en yttersta komprimering, är långt mindre än den trådlösa överföringen av rådata.”
Några av de applikationer med låg ström AI marker som GAP8 kan användas för att förenkla sakernas internet arkitektur
Även om vi har sett saker som att distribuera Hadoop på kanten, detta skulle förmodligen göra lite vettigt här. AI-algoritmer som opererar på aggregerade data från flera sensorer eller få tillgång till mycket stora databaser på pre-komprimerade data är helt klart bättre att köra på generiska plattformar på kanten (i motsats till kanten) eller i molnet, enligt Croome.
“För en i många ansiktsigenkänning ansökan, utvinning av de viktigaste funktionerna skulle köras på GAP8 i avkänningsanordning, resultatet skulle upp och matchning skulle köra i molnet. Detta skulle vara den bästa balans ur ett system perspektiv, för energiförbrukning och från SW tekniska perspektiv,” Croome sagt.
Lietar sade GreenWaves har varit ett steg före marknaden i att identifiera och serverar detta segment som är nu allmänt erkänt. Croome noterade state of the art i maskinen lärande är att utvecklas snabbt. Han fortsatte med att lägga, dock, att eftersom GAP8 är inte specialiserade, det kan anpassa sig väl till nya topologier och aktörer samtidigt behålla en bäst i klassen energieffektivitet.
Innovation som leder till optimerad energieffektivitet och kan förenkla tekniska arkitektur – vad är inte för att vilja?
TIDIGARE OCH RELATERADE TÄCKNING:
Vad är sakernas internet? Allt du behöver veta
Internet of Things förklaras. Vad sakernas internet är, och om det händer härnäst.
Vad är AI? Allt du behöver veta
En verkställande guide till artificiell intelligens, från maskininlärning och allmänna AI att neurala nätverk.
Vad är djupt lärande? Allt du behöver veta
Lowdown på djupt lärande: från hur det förhåller sig till de bredare fält av maskinen lärande genom hur man kommer igång med det.
Vad är lärande? Allt du behöver veta
Denna guide förklarar vad lärande är, hur den är relaterad till artificiell intelligens, hur det fungerar och varför det är viktigt.
Vad är cloud computing? Allt du behöver veta om
En introduktion till cloud computing rätt från grunderna upp till IaaS och PaaS, hybrid, offentliga och privata moln.
RELATERADE ARTIKLAR:
Nvidia AI-forskning pekar på en utveckling av chip företag
Huawei lanserar AI Ascend marker
Wave Design och nära att avslöja sin första AI-system
Nvidias utmärkt förfalskningar packa upp den svarta lådan av AI Qualcomm satsar $100M på nya AI venture fund CNETIBM ökar AI chip hastighet, föra djupa lärande TechRepublic
Relaterade Ämnen:
Hantering Av Data