Skrevet av George Anadiotis, medvirkende skribent
George Anadiotis Bidragsforfatter
George har teknologi, data og media, og han er ikke redd for å bruke dem. Han kommer fra en IT-bakgrunn og har hatt sjansen til å lære å spille mange instrumenter på veien til å bli et enmannsband og en orkestrator: å være en Gigaom-analytiker, tjene Fortune 500, startups og frivillige organisasjoner som konsulent, bygge og lede prosjekter, produkter og team i alle størrelser og former, og bli involvert i prisvinnende forskning blant andre.
Full Bio Publisert i Big on Data 9. desember 2021 | Emne: Edge Computing
Jan Jongbooms drøm, med hans egne ord, var å ha enheter som virkelig forstår hva som skjer rundt dem. Det var ti år siden, men det var ikke før i 2019 at han virkelig begynte å handle på det. Det var da Jongboom og Zach Shelby grunnla Edge Impulse med et oppdrag om å gjøre det mulig for utviklere å lage neste generasjon intelligente enheter.
Edge Impulse Studio er en online IDE, og det er også her valideringsdelen av prosessen skjer. Jongboom bemerket at dette er veldig viktig i maskinlæring generelt og enda mer i edge-applikasjoner. Det er fordi hvis du distribuerer noe til en enhet eller en maskin, kan det være veldig vanskelig å rette opp feil i driftsinnstillinger.
Edge Impulse lar brukere laste opp ekte data til bruk for validering, og den kan også generere syntetiske data. Og det lar dem også gripe inn og manuelt foreta korrigeringer for falske positive eller falske negative, avhengig av typen applikasjon. Noen ganger er det avgjørende at visse hendelser blir identifisert, selv på bekostning av falske alarmer, og noen ganger er det greit å gå glipp av noe.
Poenget, bemerket Jongboom, er å lage innsiktsfulle applikasjoner og inspirere til tillit. Å la noen gå gjennom dataene assistert av maskinlæringsmodellen gjør det mye lettere å se de svake punktene.
Det siste trinnet i prosessen – distribusjon – er for øyeblikket noe utenfor grensene for Edge Impulse. Edge Impulse sender ut kildekode. Det inkluderer den matematiske modellen, normaliseringskoden, signalbehandlingskoden, maskinlæringskoden og all etterbehandlingsjustering av modellen.
Ingen kompilerte binærfiler, ingen royalties på det heller, sa Jongboom . Hvordan brukeren integrerer det i enheten er opp til dem, fortsatte han med å legge til. Imidlertid bemerket Jongboom, økosystemet spiller inn i dette også, og det kan være så enkelt som to linjer med kode. Den delen er også åpen kildekode.
Edge Impulse EON: The secret sauce for optimizing machine learning models for the edge
Den delen vi ikke har snakket om så langt, og som både er sentral i Edge Impulse og ikke åpen kildekode, er TinyML-delen. TensorFlow, eller et hvilket som helst annet rammeverk for den saks skyld, kan produsere modeller som ikke passer godt for distribusjon på edge-enheter på grunn av begrensningene på disse enhetene når det gjelder kraft og prosesseringsevne.
Det er her Edge Impulses EON (Edge Optimized Neural) kommer inn i bildet. Dette er teknologien som Edge Impulse brukte for å produsere maskinlæringsmodeller som er egnet for distribusjon i begrensede enheter på kanten. Det første den gjør er at den tar hensyn til alle parametrene til utplasseringsmålet og gjør to ting.
For det første starter EON-tuneren. Jongboom beskrev dette som “en superbred søkebase på 1000 forskjellige modeller som vi kan prøve”. EON-tuner ser på de som kan passe på utplasseringsmålenheten og velger deretter den med høyest nøyaktighet.
Deretter kompilerer EON-kompilatoren effektivt nevrale nettverk til brownfield-enheter. Måten det fungerer på, sa Jongboom, er at maskinlæringsmodellen mates inn i en tolk, som bygger en graf og kjører slutningen. Men det er et bortkastet innebygd system fordi du må ha tolken pluss alle potensielle tilstander som tolken kan konstruere.
EON-kompilatoren kompilerer bare grafen til kildekoden og kompilerer den deretter inn. Det sparer mellom 30 og 50 % RAM, noe som er mye, spesielt i Brownfield-enheter. Kompilatoren er tilgjengelig for bruk, og modellene som folk genererer er også åpen kildekode, lisensiert under Apache 2.0-lisensen, så ingen royalties der. Noen velger faktisk å dele modellene sine med fellesskapet.
Edge Impulse er en programvare som en tjenesteplattform. Kunder betaler per prosjekt per måned eller per datapipeline per måned. De betaler også for mer databehandling, samarbeidsfunksjoner, storskala datatransformasjon og integrasjon med skyen din for å trekke dataene inn og innta disse dataene.
Edge Impulse har for tiden et team på 40 personer. Målet er å bruke denne serie B-finansieringen til å vokse til 80 i det kommende året, med vekt på Solutions Engineering-teamet. Jongboom sa at de også tar sikte på å fortsette å utvide fellesskapet og støtte og på samme måte, og å opprettholde sin organiske vekst.
Fremhevet
Fjernarbeid: Fem problemer vi trenger for å løse i 2022 'The Beatles: Get Back' viser at dypfalsk teknologi ikke alltid er ond Windows 11: Gi deg selv mer tid til å rulle tilbake oppgraderingen ZDNets 2021 julegaveguide Data Management