Nul
Wat gebeurt er als u meer van de wereld van de computer taken krijgt overhandigd aan neurale netwerken?
Dat is een intrigerend vooruitzicht, natuurlijk, voor Nvidia, een bedrijf verkopen is een hele deurklink van een veel chips te trainen van neurale netwerken.
Het vooruitzicht proost Bryan Catanzaro, die aan het hoofd van de toegepaste diep leren onderzoek bij Nvidia.
“We zouden graag voor model-gebaseerd te zijn van de werkdruk,” Catanzaro vertelde ZDNet deze week tijdens een interview op Nvidia ‘ s stand op de NeurIPS machine learning conference in Montreal. Catanzaro was de eerste persoon die neurale netwerk werken bij Nvidia toen nam hij een baan in 2011, na het behalen van zijn Doctoraat aan de Universiteit van Californië in Berkeley in de elektrotechniek en informatica.
Ook: IBM, Apple en Facebook vertegenwoordigen nieuwe kantelen in de richting van het bedrijfsleven voor eerbiedwaardige AI conferentie
Nvidia ‘ s hoofd van de toegepaste machine learning, Bryan Catanzaro, zegt het bedrijf is reeds een voorsprong van startups in het interpreteren van, en acteren op, hoe neurale netwerken zijn het veranderen van de computing landschap.
Model-based is een verzamelnaam voor vervanging van een deel van wat vroeger expliciete programmering met neurale netwerken die zijn afgeleid van de weg naar het oplossen van een computer probleem. Er waren voorbeelden van die verschuiving op Nvidia ‘ s stand die brede gevolgen hebben voor computers.
Een voorbeeld is een paper gepresenteerd op de conferentie van deze week heet Video Synthese, geschreven door hemzelf en collega ‘ s, samen met een onderzoeker van het MIT Computer Science and Artificial Intelligence Lab. Het werk probeert te synthetiseren video ‘ s van een straatbeeld door “het voorspellen van toekomstige frames van de video.”
Traditioneel worden dergelijke taken zouden worden geprogrammeerd met de hand, de taak van “rendering” een moeizaam. “Vandaag video is een driehoek door de driehoek, en kunnen de kosten van een miljoen dollar” of meer, zegt Catanzaro.
Ook: AI Opstarten Giervalk spins overvloed van chips voor machine learning
In plaats daarvan is de nieuwe aanpak neemt video ‘ s van straatbeelden en feeds sommige van de beelden naar een generatieve tegenspraak netwerk, of GAN, die vervolgens voorspelt frames van de video. Het bouwt voort op eerder werk dat gesynthetiseerd beelden van zaken gegeven van een aantal monsters.
Het belangrijkste is dat de GAN is het uitzoeken van de taak van de rendering, vervangen moeizame natuurkunde specificaties in de traditionele aanpak.
Nvidia heeft met de aanpak om de video game-stijl simulaties, met een aantal interessante resultaten. In de Nvidia-stand op NeurIPS, een arcade-stijl bestuurdersstoel werd ingesteld en de bezoekers hadden de kans om te rijden via een gesimuleerde straatbeeld. Het straatbeeld in dit geval bleek een aantal van de huidige beperkingen van de stand van de techniek. In plaats van foto-realistische, het had de sfeer van een aquarel, met de kleuren en texturen van de gebouwen en auto ‘ s verschuiven als één reden door de simulatie.
Een deelnemer aan de NeurIPS 2018 machine learning conference schijven door middel van een Nvidia simulator van een straatbeeld, gecreëerd door het aanbrengen van een generatieve tegenspraak netwerk, of GAN, die in een eerste simulatie van een straat.
Deze artefacten, zegt Catanzaro, een weerspiegeling van de problemen tussen het vertalen van de “de Unreal Engine 4” 3D-systeem dat in de opleiding van de GAN in het geval van het rijden simulatie. “Als Unreal geeft ons de verrichte wereld om te beginnen met, en het hoeft niet de volledige rendering, het creëert alleen een schets, het is te precies en alles is perfect.
Ook: Chip opstarten Efinix hoopt bootstrap AI inspanningen in de IoT
“Maar de lijnen en tekeningen van real video’ s zijn eigenlijk beter, ze zijn een beetje golvend; we moeten de weergave als in het echte video.”
Catanzaro beschrijft wat klinkt als een soort dialectisch proces in de toekomst, waar de bron van 3D-rendering en de daaruit voortvloeiende gegenereerd rendering of andere manier maken elkaar beter. “We zien het als bootstrapping’, zegt Catanzaro.
Dit alles heeft gevolgen voor de Nvidia chip business: Catanzaro baas is Jona Alben, het hoofd van de GPU-architectuur van Nvidia. Er is een link tussen wat geleerd over neurale netwerken’ mogelijkheden en hoe het zijn weg vindt in silicium.
Specifiek, de vervanging van hand-codering in voor het renderen van video wijst de weg naar een tijd als model-gebaseerde aanpak moet meer en meer gespecialiseerde neurale net circuits.
Ook: AI opstarten Flex-Logix touts hogere prestaties dan Nvidia
“Berekeningen in AI zijn een betere match voor halfgeleider fysica dan de traditionele render taken,” zegt Catanzaro, het vergelijken van de traditionele GPU werk van de “shader” eenheden op de multiplier-accumulator taken gebruikt voor vele neurale netwerk toepassingen.
“De MAC [multipy-accumuleren operation] compute-gebonden plaats van communicatie-gebonden”, legt hij uit. En dus, “als transistors en de draden kleiner, draden niet klein zo snel als transistors,” wat betekent dat de traditionele rendering pipeline krijgt gegomd door het probleem van het verplaatsen van gegevens via draden.
De reden Catanzaro is gewoon fijn is dat de Nvidia-chips zijn het veranderen van hun strepen meer dan enkele realiseren. Zowel van Nvidia ‘ s belangrijkste chip architecturen, Turing en Volta, voorzien van een tensor kernen, die kan werken direct op de tensor structuren die samen de vermenigvuldigen-accumuleren activiteiten van de neurale netwerken.
Moet lezen
Nvidia treinen onschuldige AI te reinigen watermerken uit foto ‘ s (CNET)Nieuwe NVIDIA-chip kan inschakelen AI en robotica in meer branches (TechRepublic)
Meer en meer, zoals tensor mogelijkheid is over te nemen transistor ruimte op het silicium die van de traditionele shader circuits van een GPU.
“Tensor kernen zijn een betere pasvorm voor de toekomst van de semiconductor manufacturing technologie,” zegt Catanzaro. “Ze zijn efficiënter met energie, en ik denk dat ze schaal beter dan de traditionele Gpu’ s.”
Hij merkt op dat een Turing-gebaseerd apparaat kan produceren zestien biljoen floating point operations per seconde in de traditionele shader units, maar de tensor kernen verslaan met een ruime marge met 230 triljoen per seconde.
Ook: Google zegt ‘exponentiële groei’ van de AI is het veranderen van de aard van het berekenen van
Er zijn natuurlijk een vlot van startups gericht op het zakelijke van Nvidia met het argument van de chip is nu minder dan ideaal voor AI, met inbegrip van Bristol, Engeland-op basis Graphcore.
Maar de verspreiding van de tensor kernen Nvidia chips betekent dat “We het met hen eens meer, dan eens met eigen verklaringen,” Catanzaro zegt hij met een glimlach.
Nvidia is een eind lopen rond deze wedstrijd, suggereert hij. “Het is fijn om te praten over deze systolische arrays,” assemblages van het multiplier-accu ‘ s die de startups tout, zegt hij. “Maar we hebben verzending dit in silicon voor jaren.”
Vorige en aanverwante dekking:
Wat is AI? Alles wat je moet weten
Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.
Wat is diep leren? Alles wat je moet weten
De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.
Wat is machine learning? Alles wat je moet weten
In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.
Wat is cloud computing? Alles wat u moet weten over
Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.
Verwante Onderwerpen:
Processors
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software
0