L'edge computing è in piena espansione. L'idea di portare l'elaborazione fuori dal data center e di portarla il più vicino possibile al luogo in cui vengono generati i dati, sta vedendo molta trazione. Le stime per la crescita dell'edge computing sono del 40% CAGR, un'area di $ 50 miliardi.
Che si tratti di sensori IoT autonomi, dispositivi di ogni tipo, droni o veicoli autonomi, c'è una cosa in comune. Sempre più spesso, i dati generati all'edge vengono utilizzati per alimentare applicazioni basate su modelli di machine learning.
TinyML è un campo in rapida crescita di tecnologie e applicazioni di machine learning che consentono al machine learning di funzionare all'edge. Include hardware, algoritmi e software in grado di eseguire analisi dei dati dei sensori sul dispositivo a una potenza estremamente bassa, consentendo quindi una varietà di casi d'uso sempre attivi.
Affinché TinyML funzioni, è necessaria una confluenza di hardware e software, creando un ecosistema costruito attorno alla nozione di fabbisogno energetico frugale. Questo è un prerequisito per le applicazioni ai margini.
Oggi Arm, un provider IP globale di semiconduttori noto per la sua attenzione alla creazione di ecosistemi e al fabbisogno energetico frugale per i suoi processori, annuncia una partnership con Neuton, un fornitore di una piattaforma TinyML automatizzata. All'inizio di settembre, Alif Semiconductors, un altro partner di Arm che sviluppa chip AI per l'edge, ha rilasciato nuove linee di prodotti.
ZDNet ha incontrato Henrik Flodell, Senior Marketing Manager di Alif, Philip Lewer, Direttore dell'ecosistema e Developer Relations, Machine Learning presso Arm e Blair Newman, CTO presso Neuton, tutti esperti esperti nello spazio embedded. Abbiamo discusso delle loro rispettive offerte e di cosa serve per ottenere un ecosistema per l'apprendimento automatico all'avanguardia.
Arm, costruire un ecosistema di intelligenza artificiale
Arm è un campione dell'ecosistema con più di 1000 partner. Secondo Lewer, questo è uno dei motivi principali per cui l'azienda è stata in grado di spedire più di 190 miliardi di chip basati sulla sua tecnologia in tutto il mondo.
I chip per le braccia sono utilizzati ovunque, dai data center cloud ai laptop e dai dispositivi indossabili ai droni. Lewer ha descritto la piattaforma di intelligenza artificiale di Arm come “una raccolta di tecnologie e partnership che consentono all'intelligenza artificiale di realizzarsi”.
Per Arm, la base è a livello hardware e la sua piattaforma di intelligenza artificiale include di tutto, dalle CPU Arm Cortex alle GPU Mali ed Ethos NPU e microNPU. La famiglia Cortex-M è una scelta molto popolare, spesso inclusa nei microcontrollori e in altri chip. La serie di processori Ethos-N di Arm si concentra specificamente sull'inferenza di apprendimento automatico per dispositivi a bassa potenza.
Anche le famiglie di prodotti Ensemble™ e Crescendo™ presentate di recente da Alif utilizzano Cortex-M di Arm. I chip Ensemble sono destinati a prodotti per la casa intelligente, elettrodomestici, punti vendita, robotica e altre applicazioni all'avanguardia.
Alif è stata fondata nel 2019 e Flodell ha notato che la motivazione era quella di “sviluppare un nuova piattaforma da zero, basata sulla tecnologia più recente che consente davvero funzionalità come la connettività wireless onnipresente e l'elaborazione edge con capacità di intelligenza artificiale e apprendimento automatico”.
L'accelerazione dell'apprendimento automatico e la sicurezza multilivello sono le caratteristiche chiave condivise da Ensemble e Crescendo. La famiglia Crescendo offre anche funzionalità di connettività e posizionamento, che le note di Alif le rendono adatte per smart city, infrastrutture connesse, monitoraggio delle risorse, dispositivi sanitari e applicazioni indossabili.
Nel 2018, Neuton ha fatto scalpore annunciando un framework di rete neurale che afferma di essere molto più efficace di qualsiasi altro framework e algoritmo non neurale disponibile sul mercato.
Newman ha notato che sebbene Bell Integrator, il fornitore dietro il framework Neuton, sia in circolazione da poco più di 17 anni, è stato circa 6 anni fa che hanno concentrato la loro attenzione sulla creazione di soluzioni SaaS a codice zero.
Storicamente, Newman ha aggiunto che Bell Integrator ha sfruttato tutti i framework di machine learning “tradizionali” disponibili. Tuttavia, il problema della scarsità di risorse è sempre stato difficile da affrontare. Una cosa è costruire un modello di machine learning e un'altra è distribuirlo in produzione, specialmente ai margini.
Neuton, costruendo da zero modelli di machine learning senza codice
Newman ha enfatizzato due aspetti dell'approccio di Neuton, che andavano contro la linea dei framework di machine learning consolidati. In primo luogo, l'aspetto senza codice, che consente agli scienziati che non si occupano di dati di costruire modelli. In secondo luogo, l'architettura personalizzata utilizzata dai modelli di apprendimento automatico di Neuton:
“Non appena questi modelli vengono prodotti, possono essere integrati immediatamente, senza alcuna interazione, nei microcontrollori. I nostri clienti hanno davvero il potere di affrontare l'intero ciclo di vita per portare l'apprendimento automatico al limite senza alcuna competenza tecnica”, ha affermato Newman.< /p>
Neuton è stato invitato a unirsi all'ecosistema di partner di Arm dopo aver presentato il suo approccio alla creazione di modelli compatti e accurati al TinyML EMEA Technical Forum 2021. L'intero scopo dell'ecosistema di partner di Arm è quello di riunire aziende che consentono capacità diverse, ha affermato Lewer.
Costruire un ecosistema per l'IA all'estremità richiede collaborazione e lavoro su hardware e software
Getty Images/iStockphoto
Caso in questione, Alif e Neuton, ha aggiunto Lewer. Alif sta utilizzando il design Cortex di Arm in modi innovativi, ma la vera domanda per gli utenti è come distribuire modelli di apprendimento automatico sui chip di Alif:
“È davvero importante, soprattutto per gli sviluppatori che sono più vicini ai background di programmazione convenzionale, colmare quel divario nel mondo dell'apprendimento automatico. Poi c'è qualcuno come Neuton che arriva e dice, beh, è lì che ci adattiamo. Se abbiamo clienti soddisfatti e partner soddisfatti, è così che misuriamo il successo”.
Arm era un partner naturale per Alif; Flodell è d'accordo perché hanno un'ottima proprietà intellettuale e si concentrano sull'abilitazione dell'ecosistema: “Sappiamo che le persone saranno in grado di essere produttive con questi dispositivi non appena ci metteranno le mani sopra”. disse Flodell.
Particolare attenzione è stata dedicata alle caratteristiche di potenza della linea di prodotti Alif. Naturalmente, ha spiegato Flodell, i chip con funzionalità di connettività integrate come la linea Crescendo avranno requisiti di alimentazione più elevati rispetto a qualcosa come l'Ensemble.
Tutto si riduce a quanta energia consumi solo per partecipare a una rete, e questa è la parte che Alif si è concentrata sull'ottimizzazione. A questo proposito, ha aggiunto che i benchmark di Alif mostrano che Crescendo è da 2 a 3 volte più frugale rispetto a chip con caratteristiche simili, il che significa semplicemente che le applicazioni saranno in grado di funzionare più a lungo.
Alif, costruendo controller integrati per ambienti vincolati
Per le applicazioni distribuite ai margini, il consumo della batteria è davvero la valuta, ha concluso Newman. L'approccio di Neuton è quello di “costruire [modelli] da zero, neurone per neurone. Devi solo costruire i tuoi modelli una volta e risultano estremamente compatti senza compromettere la precisione”.
Neuton è relativamente nuovo nel gioco delle partnership. Tuttavia, Newman ha identificato la partnership con Arm come strategica per l'obiettivo di Neuton di democratizzare l'apprendimento automatico. Per Lewer e Arm, le partnership sono una parte fondamentale della loro strategia, che continueranno a sviluppare. Anche se Arm ha molti partner, non si tratta solo di numeri, ha affermato Lewer:
“Si tratta davvero di rendere efficaci queste partnership, e questo significa impegnarsi. Trascorriamo una notevole quantità di tempo con ciascun partner cercando di capire dove stanno cercando di andare in modo che possiamo trovare un terreno comune”.
Quando si parla di machine learning ai margini, la chiave è essere in grado di lavorare in un ambiente con risorse limitate, ha osservato Flodell. Il pedigree dell'IA è legato ai data center, ma questo deve cambiare per le applicazioni IA del mondo reale all'estremità:
“Quando vuoi ridimensionare ed eseguire qualcosa che è configurato come un microcontrollore, a volte con meno di un megabyte di memoria, che di per sé diventa una sfida.
In aggiunta a ciò, l'intelligenza artificiale è in qualche modo molto diversa dallo sviluppo tradizionale che i progettisti di sistemi embedded attraversano. È ancora più compito dei data scientist capire come mettere a punto i modelli per produrre i risultati giusti.
Essere in grado di sfruttare le attività di partnership di Arm per connettersi ad aziende come Neuton dovrebbe essere in grado di colmare questo divario per far fondere i data scientist e l'esperienza dello sviluppatore embedded e far sì che i modelli e la tecnologia si adattino a un sistema vincolato.
Questa è davvero la sfida. Se riusciamo a superarlo, si apriranno le porte all'adozione di questa tecnologia”.
Intelligenza artificiale
Che cos'è l'intelligenza artificiale? Tutto ciò che devi sapere sull'intelligenza artificiale AI e i lavori di data science sono caldi. Ecco cosa vogliono i datori di lavoro I migliori robot di telepresenza per acquistare l'intelligenza artificiale stanno diventando più intelligenti, veloci. Questo sta creando domande difficili a cui non possiamo rispondere (ZDNet YouTube) Intelligenza artificiale: cheat sheet (TechRepublic)
Argomenti correlati:
Data Center 