Spell DLOps arkitektur på højt niveau
Credit: Spell
Produktkategorien machine learning operations (MLOps) har bevæget sig hurtigt, især i det sidste år, og flere platforme er dukket op for at tage det på sig. Cloud -udbydere, herunder AWS og Microsoft, analyseafspillere, herunder Databricks og Cloudera, rene MLOps -afspilninger som Algorithmia og endda open source -projekter som MLflow, tilbyder integrerede platforme til at styre maskinlæringsmodeleksperimentering, implementering, overvågning og forklarbarhed. Nu leverer Spell, en New York City-baseret MLOps-opstart, en MLOps-platform, der er specifikt rettet mod dyb læring. Som sådan refererer Spell til sin platform, der blev annonceret i sidste uge, som at lette “DLOps.”
Læs også:
< Databricks øger AI -ante med ny AutoML -motor og funktionslager < stærk>Clouderas MLOps -platform bringer styring og ledelse til datalogiske rørledninger
Cloudera Machine Learning MLOps -pakken er generelt tilgængelig, da den sigter mod at styre modeller, analyser
ZDNet talte med Spells marketingchef, Tim Negris samt dets administrerende direktør og medstifter, Serkan Piantino (som tidligere fungerede som direktør for teknik på Facebook AI Research, og som åbnede Facebooks kontor i New York City). Duoen forklarede, at de fleste af nutidens fremtrædende MLOps -platforme henvender sig til konventionel maskinlæring (klassificering, regression, klynger og lignende) og ikke til dyb læring, som bygger modeller ved at lægge flere neurale netværksstrukturer i et ensemble. Det hul på markedet er motivationen bag Spells DLOps -platform.
Særlige krav
Hvorfor ser Stave DLOps som en særskilt kategori? Piantini og Negris forklarede, at dyb læring især er velegnet til scenarier, der involverer behandling af naturligt sprog (NLP), computersyn og talegenkendelse. Deep learning -modeller er typisk mere komplekse end deres konventionelle ML -modstykker og vil sandsynligvis ikke blive uddannet på en datavidenskabs bærbare computer. I stedet drager modelundervisning med deep learning fordel af yderligere-og mere kraftfuld-skybaseret hardware, herunder også CPU-baseret beregning, men især GPU-baseret beregning. Sidstnævnte kan være ret dyrt, når det kommer til dybe læringsmodeleksperimentering og træning, så en MLOps-platform, der er i stand til at forstyrre og omkostningsstyret sådan hardware i skyen, er kritisk.
Piantino og Negris beskrev staveplatformen og påpegede, hvor omhyggeligt den håndterer tilgængelighed og omkostninger til CPU- og GPU-baserede klynge-noder. En særlig interessant funktion ved Spell-platformen er, at den kan oprette puljer af cloud-spotforekomster og gøre dem tilgængelige for brugere på on-demand-basis. Spell Virtual On-Demand Instances giver derfor on-demand-brug til spotpriser, hvilket repræsenterer betydelige besparelser for kunderne, især i tilfælde af GPU-ressourcer til træning af komplekse deep learning-modeller.
Da spotforekomster ofte kan afbrydes, er Spell-platformen designet til at være modstandsdygtig omkring netop dette scenario, så der kan udføres langvarige uddannelsesjob, selv i tilfælde af forudbetaling, uden brugerindgreb. Spell gør dette gennem sin evne til at rekonstruere et dybt læringsmiljø i en ny instans og omhyggeligt spore den fulde oprindelse og afstamning af sådanne miljøer. Denne fremgangsmåde hjælper også med reproducerbarhed af modeller og omskoling af modeller under de samme konfigurationer som dem i deres indledende træningsmiljøer.
DLOps vs. MLOps
Spell -folkene diskuterede ikke bare deres platform, de demoerede det også. Da de gjorde det, blev det klart, at mange af tilbehørene til standard MLOps (og endda AutoML) – herunder eksperimentstyring, et modellager, slægt, overvågning og forklarbarhed – også er til stede i Spells DLOps -platform. Som sådan ligner det bestemt, at DLOps er et supersæt af konventionelle MLOps, og jeg spurgte Piantino og Negris, om det var tilfældet. De to var enige om, at min formodning teknisk set var korrekt, men forklarede, at Spell ikke desto mindre er målrettet mod dyb læringsbrugssager specifikt. Spell ser det dybe læringssegment af AI som det med mest momentum og handling.
Negris og Piantino forklarede, at konventionelle MLOps -platforme i sidste ende vedtages, når organisationer modnes til en vis omfang og mængde af maskinlæringsarbejde. Men de fleste kunder, der gør dyb læring, forklarede parret, har virkelig brug for en ops -platform fra dag 1. Dette forklarer, at valle Spell virkelig er fokuseret på dette marked – da det har presserende krav og ikke behøver at blive uddannet til at forstå, hvorfor det i sidste ende vil have et smertepunkt at afhjælpe. I stedet mærker dybt indlærede kunder knibe med det samme.
Med dette i tankerne ser det ud til, at MLOps og DLOps ikke er så forskellige, men at dyb læringsstress tester en MLOps -platform mere hårdt end traditionel maskinlæring gør. I bund og grund kan DLOps -kravene i dag blive de konventionelle MLOps -krav i morgen. Om de to underkategorier derfor en dag vil smelte sammen, er uklart; det er klart, at Spell kaster sin platform over et legitimt og demonstreret behov for at optimere og operationalisere dyb læring i virksomhedens mainstream.
Relaterede emner:
Cloud Digital Transformation CXO Internet of Things Innovation Enterprise Software 