Fordelene open source giver i forhold til innovation og indførelse har fortjent det et sted i virksomhedens software. Vi kan endda gå så langt som til at sige, at open source er ved at blive normen i virksomhedens software. Men open source hardware, chips for at være specifik, og AI chips til at være endnu mere specifik? Er der en ting?
Også: AI Start Jagtfalk spins væld af chips for machine learning
Tilsyneladende er det. GreenWaves, en start baseret i Grenoble, Frankrig, er at gøre netop det. GreenWaves er at udvikle tilpassede, ultra-low power specialiseret chips for machine learning. Disse specialiserede chips gearing parallelisme og en multi-core-arkitektur til at køre machine learning arbejdsbyrde på kanten, på batteridrevne enheder med ekstreme begrænsninger. De chips GreenWaves gør er baseret på open source design, og gør bølger faktisk.
GreenWaves netop annonceret en 7M€ Serie A, Finansiering med Huami, Soitec, og andre investorer. Som pr den meddelelse, midler til at finansiere salget rampe af GreenWaves’ første produkt, GAP8, og udviklingen af næste generation af produktet. ZDNet drøftet med Martin Croome, GreenWaves, VP, Product Development, for at finde ud af, hvad det handler om.
Open source mikroprocessorer til tingenes internet
Første off, hvad betyder open source selv mener, når vi taler om mikroprocessorer? Som Croome forklaret, hvad der er open source i dette tilfælde er den instruction set architecture (ISA), og den parallelle ultra low power computing-platform (PAPIRMASSE), der sidder på toppen af det.
Også: AI Start Cornami afslører detaljer om neurale net chip
GreenWaves er en fabless chip maker. Hvad dette betyder er, at det design chip arkitekturer, og derefter bygger dem ved at outsource til en hardware-producent. Så, GreenWaves bruger lav-niveau byggesten, tilpasse dem og kombinerer dem med sine egne extensions, til at producere et beskyttet design.
Denne tilgang er noget, der minder om open core software: En open source kerne, med tilpassede udvidelser, der tilføjer værdi. De byggesten, der GreenWaves bruger, er det RISC-V-instruktionssættet, og PAPIRMASSE.
PULP er en open source parallel ultra-low power platform, hvor innovative chip design kan være skabt.
RISC-V er et open-source hardware ISA baseret på etableret reduced instruction set computer (RISC) principper. RISC-V kan bruges, royalty-fri for ethvert formål, og begyndte i 2010 på University of California, Berkeley. RISC-V har mange bidragydere og brugere i branchen. Som Loic Lietar, GreenWaves’ co-founder og CEO bemærket, at de kan lide af Nvidia og Google bruger også RISC-V. Dette betyder, RISC-V bidrag vokse, og alle kan drage fordel af.
Også: AI chips for big data og machine learning: Gpu ‘ er, Fpga
PULP er en parallel ultra-low power multi-core platform, der sigter mod at opfylde den beregningsmæssige krav af Ti programmer, der kræver en fleksibel behandling af data streams, der genereres af flere sensorer. PULP ønsker at opfylde de beregningsmæssige krav af tingenes internet-applikationer, uden at overskride den magt ramme for et par milliwatt typisk af miniaturiserede, batteri-drevne systemer.
PULP, der begyndte som en fælles indsats mellem ETH Zürich og Universitetet i Bologna i 2013. GreenWaves sprunget ud af PAPIRMASSE i 2014, som sin CTO og medstifter, Eric Flamand, var også medstifter i PAPIRMASSE. Hurtigt frem til i dag, og GreenWaves har i dag 20 ansatte, der er afsendt en første parti af GAP8 chips til kunder, og rejst i alt €11.5.
Real-time behandling på kanten
Croome bemærkes, at GreenWaves har brug for langt mindre kapital end hvad chip nystartede virksomheder som regel har brug for, der er for det meste brugt i få IP-rettigheder til designs. GreenWaves behøvede ikke at gøre dette, og dette gjorde finansiering nemmere. Eller, som Lietar sætte det, for et par år siden, da GreenWaves ville nævne open source-chips, der var en god chance for at de ville blive smidt ud af rummet. Ikke længere.
Også: AI start Flex Logix billethajer langt højere ydelse end Nvidia
Så, hvad er særlig om GAP8, hvad kan det bruges til, og hvordan?
GAP8 har en integreret, hierarkiske arkitektur. Det værter 8 udvidet RISC-V kerner og en HWCE (Hardware Foldning Motor). GreenWaves løfter ultra low power 20x bedre end den state-of-the-art på kunst på indholdet forståelse. Indhold, i denne sammenhæng, kan betyde alt fra billede til lyd eller vibration sensor input.
Hvad GAP8 er designet til at gøre, er at behandle data på kanten i realtid, uden at det er nødvendigt at indsamle og sende til forarbejdning til nogle remote datacenter. For at gøre dette, det er at være fuldt programmerbare, adræt og har et lavt installation og drift omkostningerne.
GAP8 arkitektur
Den agile del er der, som GAP8 kan vågne op fra en dvaletilstand i 0,5 millisekunder. Som Croome bemærkes, sådan chips indsat på kanten tilbringe en stor del af deres liv rent faktisk at gøre noget. Så det var vigtigt at designe noget at sove forbruge så lidt strøm som muligt, og så vågne op, og skifte driftsformer, som hurtigt og effektivt som muligt.
Også: AI ‘ s umættelige appetit for silicium kræver nye chips
Den lave installations-og driftsomkostninger er der også, som GreenWaves løfter års drift på batterier, eller endnu bedre solceller. Som GAP8 kan fungere over trådløse løsninger, som LoRa, GreenWaves også lover en 10 – 100 – fold reduktion af omkostninger over kablede installationer.
Så, hvad kan GAP8 gøre? Klienter bruger GAP8 for ting som at tælle personer eller genstande, vibrationer og lyd analyse, objekt anerkendelse, og meget mere. Nogle områder af programmet er smart byer, industri -, sikkerheds-og forbruger-applikationer. Det virkelig interessante del, er imidlertid i, hvordan det hele fungerer.
Implementering af machine learning modeller
Alle disse applikationer er baseret på anvendelse af machine learning, og mere specifikt, neurale netværk. GAP8 tager sig af den følgeslutning, hvilket betyder, at de modeller, der er nødt til at blive uddannet først, og derefter indsat på GAP8. Og dette er, hvor det bliver en smule tricky.
Også: Chip start Efinix håber, at bootstrap AI indsats i tingenes internet
GAP8 er programmerbar via C eller C++. Så hvordan kan man få fra en model, der er bygget ved hjælp TensorFlow, eller PyTorch, og andre machine learning biblioteker, til installation på en GAP8? Software stack for det er open source og findes på GitHub.
Eksempler findes for udviklingen flow fra TensorFlow til C. der er Dog et par fælder. Første, der i øjeblikket GAP8 virker kun med TensorFlow. Croome sagde dette til et spørgsmål om ressourcer og prioriteringer, og integration med andre rammer, vil blive stillet til rådighed så godt. For tiden, tilføjede han, hvad folk gøre, er at port modeller, der er oprettet i andre rammer at TensorFlow via ONNX.
Så, hvis du venter en one-click-installation, du er i for en skuffelse. Som Croome forklaret, strømmen er redskaber, der er baseret snarere end at være monolitisk. Dette betyder, at en række af værktøjer, som GreenWaves skal anvendes for at implementere modeller til GAP8.
Croome bemærkes, at “alle de funktioner, GAP8 er synligt, at den programmør, men at vi må give præ-skrevet og optimeret kode som en ‘start’ blok ‘ for at få noget op at køre hurtigt. Den HWCE accelererer foldning drift, men som alle hardware-blokke det virker på specifikke foldning typer. Hvis det ikke passer til et bestemt lag, så kan det altid blive fremskyndet på klynge kerner programmeringsmæssigt.”
At bringe energi effektivitet til at IoT arkitektur
Det vigtige her, men er evnen til effektivt at behandle data på kanten. Med en processor som GAP8, Croome bemærkes, man kan analysere indholdet er fremstillet af en rig data sensor og kun uploade resultatet, for eksempel, hvor mange mennesker der er i et rum:
Også: Mød Jetson Xavier: Nvidia ‘ s AI-chip
“Det kan godt være uploadet i en tidsserie database via et tingenes internet Application platform (der kan også kun være ramt efter transmission via en lav hastighed LPWAN type netværk yderligere at minimere overførsel af data). Den energi, der er brugt i denne analyse, og trådløs overførsel af resultaterne, som kan ses som en ultimativ komprimering, er langt mindre end den trådløse transmission af de rå data.”
Nogle af de programmer, low-power AI chips som GAP8 kan bruges til at forenkle IoT arkitektur
Selv om vi har set ting, såsom implementering af Hadoop på kanten, dette ville nok gøre lidt mening her. AI algoritmer, der arbejder på at samle data fra flere sensorer eller få adgang til meget store databaser på pre-komprimeret data er klart bedre at køre på generiske platforme på kanten (som modsætning til meget kant) eller i skyen, i henhold til Croome.
“For en i mange ansigtsgenkendelse ansøgning, udvinding af de vigtigste funktioner vil være at køre på GAP8 i sensing enhed, resultatet ville blive uploadet og matchende ville køre i skyen. Dette ville være den bedste balance fra et system synspunkt, for strømforbrug og fra en SW ingeniør perspektiv,” Croome sagde.
Lietar sagde GreenWaves har været et skridt foran markedet med at identificere og rettet mod dette segment, der er nu almindeligt anerkendt. Croome bemærkes, state of the art i machine learning er i hastig udvikling. Han fortsatte med at tilføje, er imidlertid, at fordi GAP8 er ikke specialiseret, at det kan tilpasse sig nye topologier og operatører, og samtidig bevare en best in class energieffektivitet.
Innovation, der fører til optimeret energieffektivitet og kan forenkle den tekniske arkitektur – hvad er ikke kan lide?
TIDLIGERE OG RELATEREDE DÆKNING:
Hvad er tingenes internet? Alt, hvad du behøver at vide
Internet af Ting forklaret. Hvad tingenes internet er, og hvor det skal hen næste.
Hvad er AI? Alt, hvad du behøver at vide
En executive guide til kunstig intelligens, fra machine learning og generelt AI til neurale netværk.
Hvad er dyb læring? Alt, hvad du behøver at vide
Den lowdown på en dyb læring: fra hvordan det relaterer til det bredere felt af machine learning igennem til, hvordan du kommer i gang med det.
Hvad er machine learning? Alt, hvad du behøver at vide
Denne vejledning forklarer, hvad machine learning er, hvordan det er relateret til kunstig intelligens, hvordan det fungerer, og hvorfor det er vigtigt.
Hvad er cloud computing? Alt, hvad du behøver at vide om
En introduktion til cloud computing-lige fra det grundlæggende op til IaaS og PaaS, hybrid, offentlige og private cloud.
RELATEREDE HISTORIER:
Nvidia AI forskning peger på en udvikling af chip forretning
Huawei lancerer AI Ascend chips
Bølge Computing tæt på at afsløre sin første AI-system
Nvidia ‘ s fremragende forfalskninger pak black box af AI Qualcomm satser $100 på nye AI venture-fond CNETIBM øger AI chip hastigheden, så der er dybt læring TechRepublic
Relaterede Emner:
Data Management