Automatisera automatisering: ett ramverk för att utveckla och marknadsföra djupt lärande modeller

Antagande av AI blir allt viktigare. Bild: IBM

Djupt lärande (DL), machine learning (ML) och artificiell intelligens (AI) är att få en hel del dragkraft och av goda skäl, som vi har att utforska. Enligt färska undersökningar, det verkar som om nu de flesta utvecklare och chefer har insett vikten av AI och är minst experimentera med det.

Det finns ett problem dock: AI är svårt. AI sitter i den bortre änden av ett spektrum av data-driven analytics program. Så om data vetenskap färdigheter är så svårt att komma med, AI kompetens är ännu svårare. DimensionalMechanics just meddelat sin inställning till att stänga AI-kompetens-gap, som kallas NeoPulse AI Studio (NAIS). NAIS är en del av NeoPulse Ram (NPF), som kombinerar ett antal intressanta metoder och kan visa vägen för andra att följa.

Klassificering av modeller

Låt oss bild av detta enkla scenario: eftersom vi alla vet att internet är i grund och botten om katter, varje organisation skulle någon gång vilja att utveckla ett program för att skanna igenom bilder och lista ut vilka som innehåller katter för framtida bruk. Det är faktiskt en entry level-klassificering uppgift, något som DL utmärker sig på.

Entry-nivån kan det vara, men lätt är det inte: du måste välja en DL ramverk för att använda,förstå dess inre arbetet och API, hitta eller utveckla en modell som är lämplig för uppgiften, träna den genom att mata den data prov och sedan integrera det i din befintliga skorsten och distribuera den. Men då sedan någon gång skulle alla kunna göra detta, för att ligga ett steg före du skulle ha för att klassificera också bilder av hundar. Hur skulle NPF hjälpa dig där?

För det första, genom att låta dig söka efter en modell som gör detta för dig i NeoPulse AI-Butik. Ja, det låter analogt med att en app store, förutom att du kommer att kunna handla DL modeller istället för appar. Med en AI-modell marknadsplats låter bra, men för att göra någon marknadsplats jobba en hel del saker som måste klicka på.

Rajeev Dutt, DimensionalMechanics VD och grundare, säger att butiken kommer inledningsvis att vara värd modeller som byggts upp med hjälp av nationella revisionsorgan för att kontrollera sin inre struktur och har ett standardiserat sätt att representera dem. Butiken kommer att vara bootstrappat med modeller som utvecklats av DimensionalMechanics och priser kommer att baseras på modell detaljerna – storlek, datorkraft som krävs etc. Målet är att få marknaden prisvärda och ger utvecklare ett sätt att tjäna pengar på sina modeller snabbt.

Dutt säger att medan DimensionalMechanics har egna modeller för att göra bilden klassificering, deras fokus ligger på kundanpassade modeller: “Out of the box, vi har en klassificering modell som kan identifiera objekt i video. Det kan användas på två sätt: på plats, i vilket fall vi skulle licensiera ut den faktiska AI-modellen, eller i molnet, i vilket fall de skulle ringa ett moln API. Kärnan i vår mervärde som finns i att skapa egna modeller”.

Så om du hittar en modell som kan identifiera både katter och hundar i butiken, allt fungerar på ett kick. Men vad händer om du inte gör det? Du har två alternativ. En, om du hittar en modell som gör något liknande till vad du vill, kan du träna det. Så om det är en modell som kan identifiera katter, kan du träna den för att identifiera hundar också. Två, om du inte kan hitta en modell som är tillräckligt nära för vad du vill göra, du behöver för att utveckla en från scratch..

Utfodring modeller med data

Dutt säger att “nationella revisionsorganen gör att du kan använda befintliga bilden klassificering modeller och “finjustera” dem så att du inte behöver omskola modell från grunden. Du kan ta en generisk bild klassificering modell och omskola sig att känna igen hundar – förutsatt att den ursprungliga modellen byggdes med hjälp av nationella revisionsorganen. Det enda du behöver är utbildning data”.

Båda dessa antaganden är faktiskt typ av en stor sak, men låt oss hålla oss till data för nu. Som ger utbildning i data och inte utbildning? Vad händer om jag inte har utbildning data, eller det är inte märkta?

DimensionalMechanics är ute efter att pus artificiell intelligens inom räckhåll för flera organisationer, och öppna ett antal fronter samtidigt på det. Bild: DimensionalMechanics

Tillhandahållande av utbildning data (och märkning) måste göras av användaren. Dutt säger att NAIS använder olika sätt att minska mängden data som krävs för att utbilda – till exempel när du finjustera en befintlig modell, du behöver inte alls lika många bilder. Han tillägger att NAIS utnyttjar den senaste i ML forskning för att minska kraven på data, vilket gör det möjligt att använda det även i vissa fall där uppgifterna inte är märkta:

“Till exempel, om du har en logga av TCP/IP-data, kan du använda denna som raw-data för att träna en modell för att känna igen “normalt beteende”. När modellen har utbildats, då modellen kan berätta för dig om trafiken signatur anses vara normalt eller något har hänt. Ta ett nätverk intrång händelse. Om användaren har ingen utbildning data som helst då användaren kommer att använda en av våra “off-the-shelf” modeller”.

Samma gäller för de som har urval: “För många problem neurala nätverk att automatiskt välja funktioner eller minska mått (ex. Bilden klassificering, ljud-analys, etc.). I vissa fall, men det är nödvändigt för en människa att kliva i. För många av de problem som nationella revisionsorgan som är avsedd att lösa, har urval hanteras av neurala nätverk som används”.

Och vad händer om din utbildning data inte kan lämna dina lokaler, antingen på grund av politiska begränsningar eller på grund av att det är bara för stor? Dutt säger att det finns möjlighet att köra modellen på-prem, men vilken typ av miljö kommer att kräva att köra i realistiska tidsramar?

“Typiskt kravet är hårdvara – en maskin med en CUDA 8-kompatibelt grafikkort som körs på Linux Ubuntu. Vi har ett urval av hårdvara som sträcker sig från Nvidia GeForce 1080-talet (~$550) till high end K80s (~$3000). De flesta av våra utvecklare tåg på lägre spec hårdvara. Våra K80s används för utbildning av mycket stora modeller”.

Låta förebilder ute i det vilda

Men vad händer om trots alla dina ansträngningar och du har fortfarande inte lyckats hitta eller omskola sig en modell som gör vad du vill? Det är där nationella revisionsorganen i spel – du måste använda det för att bygga din egen modell. Och lära sig ett nytt språk som kallas NML (NeoPulse Modeling Language) men på det. Men inte att oroa sig, säger Dutt, oracle är där för att hjälpa dig att:

“NAIS använder något som kallas “the oracle”, som är en AI som vet hur man konstruerar AI modeller. NML är ett språk som vi har utformat till ingenjör AI modeller. NML exponerar ett sökord auto som uppdrar åt kompilatorn att rådfråga oraklet att räkna ut ett lämpligt svar på en specifik fråga. Till exempel, auto kan användas för att räkna ut rätt DL arkitektur.

I det här fallet oracle har tillfrågats om vad som är rätt arkitektur för att använda med tanke på tipsen som tillhandahålls av utvecklaren. Utvecklaren behöver inte veta något om lärande. Det är så enkelt som att x -> auto -> y där x är ingång och y är utsignal. Auto siffror ut rätt arkitektur att göra den kartläggning.

Det sak om oracle är att det i sig lär sig med tiden och det blir bättre på sitt jobb. Det är en sats som säger att DL nätverk är “universal approximators”. Ungefär, vad detta betyder är att om du har två variabler som är relaterade på något sätt som du inte förstår, då är det garanterat att vara ett neuralt nätverk som kan mappa en variabel på den andra. Som ett resultat, genom att fokusera på DL vi kan lösa i ett mycket stort problem”.

NML har utvecklats in-house av DimensionalMechanics och är “det enda språk som vi känner till som är avsedd för DL. I 30 rader kod, kan du göra vad som tar 600 rader kod med hjälp av TensorFlow med python.

NeoPulse Modeling Language) är ett språk som är utformad för djupt lärande, som DimensionalMetrics hävdar är “utformad så att en high school student med en kodning bakgrund kan koden”. Bild: DimensionalMetrics

Nyckeln till NML är att det automatiserar stora delar av AI model generation, vilket innebär att utvecklaren inte behöver göra detta. NML strukturer djupt lärande skapas med hjälp av en elegant “block” – metod som bryter ner problemet i intuitiv bitar, som alla kan vara helt automatiserad.

Med en oracle vid din sida, och att skära ner på mängden kod som behövs låter bra, men eftersom vi pratar om något som kallas AI Studio efter allt, i fråga om varje utvecklare sinne förmodligen är om det här är faktiskt en IDE:

“För närvarande, AI studio själv utsätter en REST-gränssnittet som gör det enkelt att integrera med någon integrerad utvecklingsmiljö men vi fokuserar inte på en visuell UI ännu. Det är till stor del kommandoradsdrivet. Vi får titta på integration med vanliga IDEs som en Atom eller en Visual Studio inom den närmaste framtiden”, säger Dutt.

Och nej, hänvisning till TensorFlow inte var en tillfällighet. Dutt säger att i framtiden DimensionalMechanics kan öppna dörren till andra bibliotek eller låta användaren välja sina egna bibliotek, men detta är vad NAIS använder under huven.

I alla fall, efter en modell är byggd och tränade, NAIS konstruerar ett paket med en tunn för att använda neurala nätverk. För att komma åt det behöver du NeoPulse Fråga Runtime (NPQR). NPQR gör det möjligt för människor att förhöra neurala nätverk med hjälp av en enkel RESTEN gränssnitt som genereras automatiskt.

Dutt säger att för närvarande NPQR sitter på en Linux-baserad dator med en CUDA 8-kompatibelt grafikkort, och det är möjligt att få tillgång till NPQR via en webbtjänst samtal från en enhet (t.ex. Värdeskåp, telefon etc).

Katter och hundar

Så vad ska man göra av allt detta? Beroende på hur man ser på det, du kan säga att det är vägen till framtiden eller alltför långtgående, och du skulle förmodligen vara precis hursomhelst.

Å ena sidan, att automatisera automatisering kan vara längre än imponerande – det kan vara mycket praktiska och erbjuder enorma ökningar i produktiviteten. Andra som Viv, Alpina Data eller BeyondCore har redan försökt det med en hel del framgång. Skillnaden är att DimensionalMechanics verkar rikta sig till en bredare publik.

“Där vi skiljer oss är att vi har en AI driva nationella revisionsorgan som vet hur man bygger DL modeller och blir smartare med tiden. Med hjälp av NAIS, vi är inte begränsad till någon vertikala branschen – vi kan lösa problem över hela linjen – vi är obegränsad i fråga om ML problem som vi kan åtgärda.

En annan viktig punkt är att med de nationella revisionsorganen modeller som oracle genererar i allmänhet på eller i närheten av “state-of-the-art” – och så en utvecklare med några ML kompetens kan skapa modeller som kan konkurrera med de som skapas av ML experter” säger Dutt.

Utvecklare med ingen tidigare Lärande upplevelse att vara produktiv i 2 veckor? Det är vad DimensionalMechanics löften. Bild: DimensionalMechanics

Dutt hävdar också NML är mycket enkelt att lära sig eftersom det är utformat för att vara intuitivt genom att bryta upp koden i block som beskriver deras användning: arkitektur, källa, input, output, tränar och kör: “Vi har utformat det så att en high school student med en kodning bakgrund kan koda det. En utvecklare med no AI-kompetens kan enkelt bygga med NML. Ett företag användare kommer förmodligen inte att kunna använda det, såvida han/hon kan skriva skript”.

Det är tydligt att en visuell utvecklingsmiljö skulle hjälpa det, så varför skulle DimensionalMechanics dispensera all denna kraft på att bygga orakel och inte göra något om detta? Ett rimligt svar skulle kunna vara det faktum att i ett utrymme som är på väg med stormsteg, det är bara så mycket en 11-människor start kan göra för att ta på Googles i världen.

Som tar upp en annan intressant fråga: vad är DimensionalMechanics försöker vara? Det är byggnaden på toppen av Googles TensorFlow, den ledande DL ram på denna punkt (i mindshare minst). Så du kan säga det är att försöka vara något i stil med vad ett antal IDE leverantörer för Android har varit – en kontaktperson.

Men det ser också ut som DimensionalMechanics försöker att slå Google till stansen genom att inleda en DL modell marknaden, bygger på Google ‘ s egna bibliotek. Är detta vettigt, och inte DimensionalMechanics har vikten av att göra detta arbete? Och om detta är dess primära mål, varför inte gå till en icke Google-specifika DL bro bibliotek som Keras?

Vid samma tid, DimensionalMechanics är också tillkännage en B-finansiering runda och ett partnerskap med GrayMeta, som Dutt säger innebär att ge AI-tjänster i många olika former och är spännande eftersom GrayMeta har tillgång till ett rikt och varierande uppsättning av globala media kunder. DimensionalMechanics och GrayMeta är redan samarbetar på ett antal egna projekt.

Det är säkert ingen brist på ambition eller verksamhet där. Hur många av dessa påståenden har visat sig fungera i praktiken och hur väl dessa satsningar betalar ut återstår att se, men om det är DimensionalMechanics eller någon annan som får det att hända, det är gemenskapen som kommer att stå att dra.

Vem som egentligen äger din Internet of Things data?

I en värld där fler och fler objekt kommer online och leverantörer får delta i leveranskedjan, hur kan du hålla koll på vad som är ditt och vad är inte?