Open source AI-chips maken van Groene Golven: het Brengen van de energie-efficiëntie te IoT architectuur

0
112

De voordelen van open source biedt op het gebied van innovatie en acceptatie verdiende hij een plaats in de enterprise software. We kunnen zelfs zo ver gaan als te zeggen dat open source wordt steeds meer de norm in de enterprise software. Maar open-source hardware, chips specifiek te zijn, en AI chips worden nog meer specifieke? Is dat voor een ding?

Ook: AI Opstarten Giervalk spins overvloed van chips voor machine learning

Blijkbaar is het. GreenWaves, een startup gevestigd in Grenoble, Frankrijk, is precies dat te doen. GreenWaves is het ontwikkelen van aangepaste, ultra-low power gespecialiseerde chips voor machine learning. Deze gespecialiseerde chips leverage parallellisme en een multi-core architectuur uitvoeren van machine learning workloads op de rand, op de batterij-gevoede apparaten met extreme beperkingen. De chips GreenWaves maakt zijn gebaseerd op open source ontwerpen en maken de golven inderdaad.

GreenWaves zojuist aangekondigd een 7M€ Serie A-Financiering met Huami, Soitec, en andere investeerders. Volgens de aankondiging, fondsen voor de financiering van de verkoop helling van GreenWaves’ eerste product, GAP8, en de ontwikkeling van de vennootschap de volgende generatie van het product. ZDNet besproken met Martin Croome, GreenWaves VP van Product Ontwikkeling, om uit te vinden welke dit ongeveer allen is.

Open source microprocessors voor IoT

Ten eerste, wat is open source zelfs betekenen dat wanneer we praten over processoren? Als Croome uitgelegd, wat is open source in dit geval is de instructieset-architectuur (ISA), en de parallelle ultra low power computing-platform (PULP) dat ligt op de top van het.

Ook: AI Opstarten Cornami onthult de details van de neurale netto-chip

GreenWaves is een fabless chip maker. Wat dit betekent is dat het ontwerpen chip architecturen, en het vervolgens bouwt ze door het uitbesteden aan een aantal hardware fabrikant. Dus, GreenWaves maakt gebruik van lage-niveau van de bouwstenen, het aanpassen van ze en ze te combineren met haar eigen extensies, voor het produceren van een eigen ontwerp.

Deze aanpak is enigszins doet denken aan open core-software: Een open source kern, met aangepaste extensies die waarde toevoegen. De bouwstenen die GreenWaves is het gebruik van de RISC-V-instructieset, en PULP.

pulp-logo-icon.png

PULP is een open source parallel ultra-low power platform waarop innovatieve chip ontwerpen kunnen worden gemaakt.

RISC-V is een open-source hardware ISA op basis van vastgestelde reduced instruction set computer (RISC) principes. RISC-V kan worden gebruikt royalty-vrij voor doel en begon in 2010 aan de Universiteit van Californië, Berkeley. RISC-V heeft vele medewerkers en gebruikers in de industrie. Als Loic Lietar, GreenWaves’ mede-oprichter en CEO opgemerkt, de wil van Nvidia en Google ook gebruiken RISC-V. Dit betekent RISC-V bijdragen groeien, en iedereen kan profiteren.

Ook: AI chips voor big data en machine learning: Gpu ‘s, fpga’ s

PULP is een parallel ultra-low power multi-core platform om te voldoen aan de rekenkundige eisen van de IoT toepassingen waarbij een soepele verwerking van de gegevens stromen gegenereerd door meerdere sensoren. PULP wil om te voldoen aan de rekenkundige eisen van de IoT-toepassingen, zonder overschrijding van de power envelope van een paar milliwatt typische compacte, batterij-aangedreven systemen.

PULP begon als een gezamenlijke inspanning van de ETH Zürich en de Universiteit van Bologna in 2013. GreenWaves is voortgekomen uit het VRUCHTVLEES in 2014, als de CTO en mede-oprichter, Eric Flamand, was ook een mede-oprichter van PULP. Fast forward naar vandaag, en GreenWaves heeft 20 medewerkers, geleverd in een eerste batch van GAP8 chips aan klanten, en bracht in totaal €11,5.

Real-time verwerking op de rand

Croome opgemerkt dat GreenWaves nodig veel minder kapitaal dan wat chip startups meestal nodig, die meestal doorgebracht in het verkrijgen van ie-rechten voor ontwerpen. GreenWaves deed dit niet te doen, en dit maakte de financiering gemakkelijker. Of, als Lietar stelde, een paar jaar geleden, toen GreenWaves noem open source chips, was er een goede kans dat ze zouden worden gegooid van de kamer. Nu niet meer.

Ook: AI opstarten Flex-Logix touts hogere prestaties dan Nvidia

Dus, wat is er speciaal aan GAP8, wat kan het voor gebruikt worden, en hoe?

GAP8 heeft een geïntegreerde hiërarchische architectuur. Het hosts-8 uitgebreid RISC-V-cores en een HWCE (Hardware Convolutie van de Motor). GreenWaves belooft ultra low power 20x beter dan de state-of-the-art over kunst op de inhoud te begrijpen. Inhoud, in deze context, kan van alles betekenen, van beeld naar geluid of trillingen sensor ingang.

Wat GAP8 is ontworpen om te doen is om die gegevens te verwerken op de rand in real-time, met voorbijgaan aan de noodzaak om te verzamelen en op te sturen voor verwerking naar een externe datacenter. Om dit te doen, het is volledig programmeerbaar, agile, en hebben een lage installatie-en gebruikskosten.

gap8.jpg

GAP8 architectuur

De agile deel is er, als GAP8 wakker wordt uit een slaapstand in 0,5 milliseconden. Als Croome opgemerkt, zoals chips ingezet op de rand besteden een groot deel van hun leven eigenlijk niets te doen. Dus het was belangrijk om iets te ontwerpen dat de slaap verbruiken zo weinig mogelijk stroom, en dan wakker wordt, en schakelen tussen de modi van de operatie, zo snel en efficiënt mogelijk.

Ook: AI ‘ s onverzadigbare eetlust voor silicium vereist nieuwe chips

De lage installatie-en exploitatiekosten is er, ook als GreenWaves belooft het jaar van de werking op batterijen, of zelfs betere zonnecellen. Als GAP8 kunnen bedienen over draadloze oplossingen, zoals LoRa, GreenWaves ook belooft een 10 – tot 100 – voudige vermindering van de kosten via een bedrade installaties.

Dus, wat kan GAP8 doen? Cliënten worden met behulp van GAP8 voor dingen zoals het tellen van personen of objecten, trillingen en geluid analyse, objectherkenning, en meer. Sommige gebieden van toepassing zijn slimme steden, industrie, beveiliging en toepassingen voor consumenten. Het echt interessante deel, echter, is in hoe het allemaal werkt.

Het implementeren van machine learning modellen

Al deze toepassingen zijn gebaseerd op het gebruik van machine learning, en meer specifiek, neurale netwerken. GAP8 verzorgt de gevolgtrekking, wat betekent dat de modellen moeten worden opgeleid, en vervolgens ingezet op GAP8. En dit is waar het wordt een beetje lastig.

Ook: Chip opstarten Efinix hoopt bootstrap AI inspanningen in de IoT

GAP8 is programmeerbaar via C of C++. Dus hoe krijgt men van een model dat is gebouwd met behulp van TensorFlow, of PyTorch, en andere machine learning bibliotheken, die inzet op een GAP8? De software stack voor dit is open source en beschikbaar op GitHub.

Er zijn voorbeelden voor de ontwikkeling van de kasstroom uit TensorFlow C. Echter, er zijn een paar valkuilen. Eerste, momenteel GAP8 werkt alleen met TensorFlow. Croome zei dat dit een kwestie van middelen en prioriteiten, en de integratie met andere kaders worden verzorgd. Voor het moment, voegde hij eraan toe, wat mensen doen is naar de haven modellen die zijn gemaakt in andere kaders te TensorFlow via ONNX.

Dan, als je verwacht dat een één-klik-implementatie, je bent in voor een teleurstelling. Als Croome is uitgelegd, is de flow van instrumenten gebaseerd in plaats van monolithische. Dit betekent dat een aantal van de tools die door GreenWaves moeten worden gebruikt om te implementeren modellen te GAP8.

Croome opgemerkt dat “alle functionaliteit van GAP8 zichtbaar is voor de programmeur, maar dat doen we pre-geschreven en geoptimaliseerde code als een ‘startblok’ voor het krijgen van iets te snel. De HWCE versnelt de convolutie werking echter net als alle hardware-blokken het werkt op specifieke convolution soorten. Als het niet overeenkomt met een specifieke laag dan kan dit altijd worden versneld op de cluster kernen programatically.”

Het brengen van de energie-efficiëntie te IoT architectuur

Het belangrijkste hier is echter het vermogen om effectief te verwerken gegevens op de rand. Met een dergelijke processor GAP8, Croome opgemerkt, kan men het analyseren van de content die door een rijke data sensor en uploaden alleen de uitkomst is, bijvoorbeeld hoeveel mensen er in een kamer:

Ook: Voldoen aan de Jetson Xavier: Nvidia ‘ s AI-chip

“Dit kan goed worden geüpload in een tijdreeks database via een IoT Application platform (dat kan ook geraakt worden na verzending over een lage snelheid LPWAN type netwerk verder beperken van gegevensoverdracht). De energie-uitgaven in het doen van dit onderzoek en de draadloze transmissie van de resultaten, die kan worden gezien als een ultieme compressie, is veel minder dan de draadloze transmissie van de data.”

greenwaveapps.jpg

Sommige van de toepassingen low-power AI chips GAP8 kan worden gebruikt voor het vereenvoudigen van de IoT architectuur

Hoewel we hebben gezien dat dingen zoals de implementatie van Hadoop op de rand, dit zou waarschijnlijk weinig zin hier. AI algoritmen die actief zijn op geaggregeerde gegevens van meerdere sensoren of toegang tot een zeer grote databases op de pre-gecomprimeerde gegevens worden duidelijk beter draaien op generieke platforms op de rand (in tegenstelling tot rand) of in de cloud, volgens Croome.

“Voor een één van de vele gezichtsherkenning toepassing, de extractie van de belangrijkste kenmerken zou worden uitgevoerd op GAP8 in het detectie-apparaat, het resultaat zou worden ge-upload en de bijpassende zou draaien in de cloud. Dit zou de beste balans van een systeem oogpunt van het energieverbruik en van een SW-engineering perspectief,” Croome zei.

Lietar zei GreenWaves is een stap vooruit van de markt in het identificeren en het dienen van dit segment is nu algemeen erkend. Croome vermeld op de staat van de kunst in machine learning ontwikkelt zich snel. Hij ging aan toe te voegen, echter, dat omdat GAP8 is niet gespecialiseerd, kan zich goed aanpassen aan nieuwe topologieën en operators behoud van een ‘ best in class energie-efficiëntie.

Innovatie die leidt tot een geoptimaliseerde energie-efficiëntie en het vereenvoudigen van technische architectuur – wat niet graag?

VORIGE EN AANVERWANTE DEKKING:

Wat is het IoT? Alles wat je moet weten

Het Internet van Dingen uitgelegd. Wat het IoT is, en waar het gaat naast.

Wat is AI? Alles wat je moet weten

Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.

Wat is diep leren? Alles wat je moet weten

De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.

Wat is machine learning? Alles wat je moet weten

In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.

Wat is cloud computing? Alles wat u moet weten over

Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.

VERWANTE ARTIKELEN:

Nvidia AI-onderzoek wijst op een evolutie van de chip business
Huawei onthult AI Ascend chips
Golf Computing dicht bij de onthulling van de eerste AI-systeem
Nvidia ‘ s prachtige vervalsingen pak de zwarte doos van AI Qualcomm bet $100M op de nieuwe AI venture fonds CNETIBM verhoogt AI chip snelheid, het brengen van diep leren TechRepublic

Verwante Onderwerpen:

Data Management