Facebooks AI-team flyttar hela sin maskininlärningsmodelldistribution till PyTorch-ramverket och standardiserar ramarna för utveckling, sa företaget på onsdagen under sitt F8 årliga utvecklarevenemang, som i år hölls praktiskt taget.
“Vi är nu vid den punkt där vi standardiserar alla våra arbetsbelastningar på PyTorch”, säger AI-teamets CTO, Mike Schroepfer, under en presskonferens.
I en slags kamp mellan forskarna och devs, hände beslutet först efter att Schroepfer och teamet kom till tanken på Facebook AI: s forskningschef, Yann LeCun, enligt Schroepfer.
“Jag hade den här utslagsdebatten med Yann LeCun under lång tid”, förklarade Schroepfer.
“Kanske är AI som, jag prototypar den med en 3D-skrivare, och sedan när vi har räknat ut vad vi vill, kastar vi den i betong, och så har vi en helt separat verktygskedja för produktion” av prestationsskäl. LeCun, å andra sidan, hade insisterat på att ett verktyg kunde fungera för både forskning och produktion.
Oenigheten hänför sig till PyTorchs historia, som introducerades av Facebook 2016.
PyTorch är ett bibliotek med maskininlärningsfunktioner skrivna delvis på Python-programmeringsspråket, men med mycket C ++. Den anpassades från ett befintligt ramverk, Torch, som ett alternativ till ramverk som Theano, Caffe och Googles TensorFlow. Programvaran har för närvarande en stabil version av 1.8.1.
Också: Facebook F8 Uppdatera: Alla viktiga meddelanden
PyTorchs primära värde har traditionellt varit användarupplevelse, noterade Schroepfer, för att enkelt bygga och felsöka. Det vann lojalitet från forskare som LeCun som snabbt vill revidera neurala nätverk, testa och revidera igen. Det var dock långsammare än många programmeringsverktyg som byggts uttryckligen för högsta prestanda.
Facebook hade alltså, trots sitt värde för forskning, använt en blandning av ramar för forskning och produktion, säger Schroepfer, med Caffe 2 som varit det näst vanligaste inom företaget. En mängd olika “domänspecifika ramar” har också använts, sade han.
Det visade sig, säger Schroepfer, att trots att PyTorch inte alltid är det snabbaste biblioteket, “vill produktionsingenjörer använda all den senaste forskningen.” Fler och fler problem löstes av forskarna, först, förklarade han.
Stora AI-modeller för taligenkänning eller naturligt språkbehandling är “vanligtvis byggda ovanpå PyTorch”, konstaterade Schroepfer, inte bara på Facebook utan hos andra företag och i den akademiska världen. “Ofta har de GitHub-förråd i PyTorch.”
Också: Hög energi: Facebooks AI-guru LeCun föreställer sig AI: s nästa gräns
För närvarande distribueras 93% av Facebooks AI-modeller med PyTorch.
Poängen med att standardisera, enligt Schroepfer, är att påskynda Facebooks AI-utveckling och -distribution över en mängd olika applikationer genom att kollapsa i ett bibliotek företagets största ansträngning.
Ingenjörer på Facebook “har nu till hands denna verktygslåda med toppmoderna modeller som jag kan sätta i produktion mycket snabbare eftersom de bygger på samma verktygskedja som jag använder för att bygga och leverera webbplatser på en miljarder användarskala, “sa han.
” Vad du såg när du samlar den här typen av konsolidering i ett enda verktyg är bara en massiv böjning av förmågan för människor att få sina jobb gjort och få träning . ”
Tillade Schroepfer, “När branschen ytterligare standardiserar sig på verktyg som detta kommer det bara att ytterligare påskynda vår förmåga att inte bara skriva forskningsdokument om dessa saker, utan få dessa verktyg till världen för att hjälpa riktiga människor. ”
Under huven var Schroepfer och team tvungna att göra saker för att hjälpa PyTorch.
De kör till exempel ett program som heter TorchScript som möjliggör optimering av runtime. “Låt mig skriva kod hur jag vill i Python, men om jag märker det korrekt kan vi köra den här riktigt coola optimeraren i bakgrunden för att göra den mer effektiv.”
“Vi tappade långsamt klyftan här”, sa han om att PyTorch var förstärkt.
“Jag är förvånad över resultatet, att det här verktyget som började med användarvänlighet, experiment och smidighet, hittade sin väg till produktion”, säger Schroepfer.
“Yann hade rätt, jag hade fel”, sa han.
På frågan om Facebook AI skulle förlora fördelarna med mångfald genom att standardisera, klargjorde Schroepfer att forskning fortfarande får spela med alla de nya sakerna de vill ha.
“Våra forskargrupper har mycket frihet att experimentera, och de experimenterar alltid med ny teknik, vilket är hur PyTorch kom till i första hand”, sa han.
Relaterade ämnen:
Utvecklare Digital Transformation CXO Internet of Things Innovation Enterprise Software 