Noll
Vad händer mer i världen dator uppgifter få lämnas över till neurala nätverk?
Det är en spännande möjlighet, naturligtvis, för Nvidia, ett företag som säljer en hel fan av en massa marker att träna neurala nätverk.
Utsikterna skål Bryan Catanzaro, som är chef för tillämpad djupt lärande forskning på Nvidia.
“Vi skulle älska för modell-baserad vara mer av arbetsbördan,” Catanzaro berättade ZDNet denna vecka under en intervju på Nvidia: s monter på NeurIPS maskininlärning-konferensen i Montreal. Catanzaro var den första person som gör neurala nätverk fungerar på Nvidia när han tog ett jobb under 2011 efter att ha erhållit sin Doktorsexamen från University of California i Berkeley i elektroteknik och datavetenskap.
Också: IBM, Apple och Facebook utgör nya tilt mot företag för ärevördiga AI-konferens
Nvidia: s chef för tillämpad machine learning, Bryan Catanzaro, säger företaget är redan långt före startups att ta tag i, och som handlar om, hur neurala nätverk är att ändra design och landskap.
Modell-baserad är en grundbult för att ersätta en del av vad som brukade vara explicit programmering med neurala nätverk för att sluta sätt att lösa en design och problem. Det fanns exempel på att flytta på Nvidia ‘ s monter som har breda konsekvenser för datorer.
Ett exempel är ett paper presenterat vid konferensen den här veckan kallas Video till Video Syntes, författad av honom själv och kollegor, tillsammans med en forskare från MIT: s Computer Science and Artificial Intelligence Lab. Arbetet syftar till att syntetisera videor av en gata scen genom att “förutsäga framtida bildrutor.”
Traditionellt har sådana uppgifter skulle vara programmerad av sidan, uppgiften “gör” är en mödosam. “Dagens video är triangeln med triangel, och kan kosta en miljon dollar” eller mer, säger Catanzaro.
Också: AI Start Jaktfalk spins uppsjö av marker för maskininlärning
I stället för den nya strategi som tar videor av gatumotiv och flöden vissa ramar för att en generativ kontradiktoriska nätverk, eller GAN, som sedan förutspår bildrutor. Den bygger på tidigare arbete som syntetiseras bilder av saker med tanke på några prover.
Det viktiga är att HAN är att räkna ut uppgiften att skapa, ersätta mödosam fysik specifikationer i den traditionella metoden.
Nvidia har slagit till video spel-stil simuleringar, med en del intressanta resultat. I Nvidia monter på NeurIPS, en arkad-stil förarsätet var att ställa upp och besökarna hade möjlighet att köra genom en simulerad gatubilden. I gatubilden i detta fall visade en del av de nuvarande begränsningarna av state of the art. Snarare än att titta foto-realistiska, det hade känslan av en akvarell målning med färger och texturer av byggnader och bilar för att flytta som en körde genom simulering.
En deltagare på NeurIPS 2018 machine learning conference enheter genom ett Nvidia-simulator av en gata scen, som skapats genom att tillämpa en generativ kontradiktoriska nätverk, eller GAN, en inledande simulering av en gata.
Dessa artefakter, säger Catanzaro, är en reflektion av frågor mellan översätta från “Unreal Engine 4” 3D-system som är utbildning GAN i fall av att köra simuleringen. “När Overkligt ger oss den renderade världen till att börja med, och det gör inte den fullständiga bilden, att det bara skapar en skiss, det är alltför exakt och allt är perfekt.
Också: Chip start Efinix hoppas att bootstrap-AI insatser i sakernas internet
“Utan linjer och skisser från riktiga filmer är faktiskt bättre, de är lite vågig, vi behöver renderingen att bli mer som real video.”
Catanzaro beskriver vad som låter som en sorts dialektisk process i framtiden, där källan 3D-rendering och de resultat som genereras rendering på något sätt göra varandra bättre. “Vi gillar att tänka på det som bootstrapping”, säger Catanzaro.
Allt detta har konsekvenser för Nvidias chip företag: Catanzaro s chef är Jona Album, chef för GPU-arkitektur på Nvidia. Det finns en koppling mellan vad man lärt sig om neurala nät förmåga och hur den finner sin väg in i kisel.
Specifikt, byte av hand-kodning i video rendering visar vägen till en tid när en modell-baserade metoder kommer att behöva mer och mer dedikerad neurala nätet kretsar.
Också: AI start Flex Logix svartabörshajar betydligt högre prestanda än Nvidia
“Beräkningar i AI är en bättre match för halvledarfysik än traditionella göra uppgifter, säger Catanzaro, jämföra den traditionella GPU arbete “shader” enheter multiplikator-ackumulator uppgifter som används för många neurala nätverk applikationer.
“MAC [multipy ansamlas drift] är satt till bundna snarare än kommunikation-bundna”, förklarar han. Och så, “som transistorer och ledningar blir mindre, ledningar inte få små så snabbt som transistorer,” vilket innebär att den traditionella rendering pipeline får gummerat upp av problemet med flyttning av data via ledningar.
Anledningen till Catanzaro är bara bra med det är att Nvidia: s marker har ändrat sina ränder mer än många inser. Både av Nvidia: s viktigaste chip arkitekturer, Turing och Volta, har tensor kärnor, som kan arbeta direkt på tensor strukturer som utgör föröka sig-samla verksamheten av neurala nät.
Måste läsa
Nvidia tåg oskyldiga AI för att rengöra vattenstämplar av foton (CNET)Nya NVIDIA-chip kan göra det möjligt för AI och robotik i fler branscher (TechRepublic)
Mer och mer, så tensor förmåga är att ta över transistorn utrymme på kisel dö från traditionella shader kretsen av en GPU.
“Tensor av kärnor är ett bättre passform för framtida semiconductor manufacturing technology, säger Catanzaro. “De är mer energieffektiva, och jag tror att de kommer att skala bättre än traditionella Grafikprocessorer.”
Han konstaterar att en Turing-baserad enhet kan producera sexton biljoner flyttalsoperationer per sekund i dess traditionella shader enheter, men tensor kärnor slå det med bred marginal med 230 biljoner per sekund.
Också: Google säger ” exponentiell tillväxt av AI är föränderliga natur beräkna
Det finns naturligtvis en mängd nystartade företag som syftar till att ta affärer från Nvidia av hävdade marker är nu mindre än idealisk för AI, som bland annat Bristol, England-baserade Graphcore.
Men spridningen av tensor kärnor i Nvidia chip innebär att, “Vi är överens med dem mer än att de är överens med det egna uttalanden,” Catanzaro säger med ett leende.
Nvidia är att göra ett slut springa runt en sådan konkurrens, föreslår han. “Det är bra att tala om dessa systoliska kedjor,” assemblage av multiplikator-ackumulator enheter som nystartade tout, säger han. “Men vi har varit frakt här i silicon år.”
Tidigare och relaterade täckning:
Vad är AI? Allt du behöver veta
En verkställande guide till artificiell intelligens, från maskininlärning och allmänna AI att neurala nätverk.
Vad är djupt lärande? Allt du behöver veta
Lowdown på djupt lärande: från hur det förhåller sig till de bredare fält av maskinen lärande genom hur man kommer igång med det.
Vad är lärande? Allt du behöver veta
Denna guide förklarar vad lärande är, hur den är relaterad till artificiell intelligens, hur det fungerar och varför det är viktigt.
Vad är cloud computing? Allt du behöver veta om
En introduktion till cloud computing rätt från grunderna upp till IaaS och PaaS, hybrid, offentliga och privata moln.
Relaterade Ämnen:
Processorer
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem
0