Hög energi: Facebook AI guru LeCun föreställer AI: s nästa gräns

0
101

Mark Zuckerberg tycker att han är så missförstådda
ZDNet Chris Matyszczyk berättar Karen Roby som Facebook: s VD säger medarbetare hela tiden ska förklara för kritikerna att Facebook har deras bästa för ögonen. Läs mer: https://zd.net/2M96j2h

Det har sagts att ingenjörer — och vissa forskare, men mestadels ingenjörer-kan visualisera sina mind ‘ s eye som inte finns ännu länge innan de sätter sig på bänken för att konstruera något.

Facebook ‘ s head of artificial intelligence, Yann LeCun, verkar som passar denna profil till ett T.

“Jag arbetar främst med intuition”, skriver han i När Maskinen Lär sig, en ny bok som är en del biografi, en del vetenskap föreläsning, del AI historia, publicerades onsdag i franska som Quand la machine apprend.

“Jag projekt i mitt huvud gränsfall, som Einstein kallade det “tänkte experiment'”, skriver LeCun.

Också: LeCun, Hinton, Bengio: AI konspiratörer som tilldelats prestigefyllda Turing pris

dp3q6031-1.jpg

LeCun är animerade på scen, helt klart strömförande genom att försöka förmedla saker på kanterna av AI som har kommit från hans tanke experiment.

Tiernan Ray för ZDNet

Denna förmåga att föreställa sig något som inte finns, kanske på gränsen för vad som i allmänhet anses genomförbart, är märket för ingenjörer och uppfinnare. LeCun är något av en raritet bland AI publiken, en vetenskapsman som är hemma i algoritmen design men också har en fot stadigt i datateknik.

LeCun, som i år vann ACM Turing Award för sina insatser för datavetenskap, är mest känd för att vidareutveckla och förfina och göra praktiska convolutional neurala nätverk, eller CNN, på 1990-talet. Han uppfann inte sak från början, men han gjorde CNNs praktiskt genomförbart. De bildade grunden för revolutionen i machine learning som förde LeCun till framträdande under det senaste decenniet tillsammans med sina landsmän, fellow award vinnare Geoffrey Hinton och Yoshua Bengio.

dp3q6029-1.jpg

dp3q6044-1.jpg

dp3q6024-1.jpg

LeCun teknikern var på scenen onsdag vid Institute for Advanced Study i Princeton, NJ, för att förklara vad som lät som intuition, men en väl byggas ut intuition. Inställningen var en tre-dagars workshop om djupt lärande, särskilt teorin för djupt lärande. Anordnas av Institutet matematik professor Sanjeev Arora, den händelse som drog massor av AI celebriteter, bland annat Nvidia: s chef för AI-forskning, Anima Anandkumar, och LeCun andra Facebook lärd Léon Bottou.

LeCun s presentation var ett tema han är nyligen tagna på vägen till många föreläsningar: Hur komma bortom den heter utbildning exempel på konventionella djupt lärande. “Vi kommer inte att få intelligens som allmänt som människor “med handledning eller med multi-task lärande”, sa han till publiken. “Vi kommer att ha något annat.”

Att det är något annat, LeCun tror, oövervakad inlärning. Och för att göra det möjligt oövervakad inlärning, hela området kan behöva arbeta mer på en strategi som kallas energi-baserat lärande.

Energi funktioner har varit runt om i AI i årtionden. Biologen John Hopfield första populariserade synsätt på 1980-talet med vad som kom att bli känt som “Hopfield Nätverk.” Det var ett genombrott i maskininlärning på den tiden, och det ledde till att andra typer av lärande algoritmer som handlar om föreställningar om ett energifält för att vara optimerad, såsom “Boltzmann-Maskin” som eftersträvas genom Hinton.

Också: Facebook är Yann LeCun speglar bestående överklagande av faltningar

“Energi-baserat lärande har funnits ett tag,” observerade LeCun, “och det är nyligen kommit tillbaka till mitt medvetande på grund av behovet av att göra mindre tillsyn.”

Detaljerna blir svårbegriplig för snabbt, men den grundläggande idén är att istället för att skapa massor av märkt datamängder, till exempel bilder på katter och hundar, eller spendera tusentals timmar på att spela spel av chess som DeepMind är AlphaZero, bara ta några rikligt raw-data, till exempel massor av YouTube-klipp, och mata den till maskinen.

“Gör maskinen är riktigt stora och har det titta på YouTube eller Facebook Live hela dagen,” sade LeCun.

Maskinen kan tränas till att förutsäga vad som kommer härnäst efter varje ram av video. Kompatibilitet mellan prognos och verklighet är vad som kallas en energi nivå. Lägre energi är bättre, mer kompatibla, vilket innebär, mer exakt, så en neurala nätet försöker att nå en idealisk låg energinivå.

Också: Facebook är Yann LeCun säger “inre verksamhet” utgår AI marker

LeCun har bra energi på scen och en uppenbar glädje med nyanser av ämnet. Han visade osäkerhet för publiken, stirrar enkelt, flytta armarna fram och tillbaka. “Du tittar på mig just nu, du är skytte en video av mig, och bakgrunden inte ändra kameran inte rör sig,” sade LeCun.

“Det enda som händer är att jag kan flytta mitt huvud i en riktning eller det andra, jag kan flytta mina muskler på olika sätt, och många av alla bilder i mitt huvud under denna prata just nu är en låg-dimensionell mångfald som begränsas ovan av antal muskler i mitt huvud.”

LeCun budskap var ganska radikal i samband med maskininlärning. Energi funktioner göra sig av med probabilistisk prognos, i LeCun version. “Jag tror att den högra ramen för detta är att faktiskt kasta bort den probabilistiska ram, eftersom det är fel.” Den typiska neurala nätet skulle ha “oändlig vikter,” sade han, som är “bara fel, det är också värdelös.”

Klart, LeCun är i sitt rätta element föreställa sig vad som ännu inte skapats och försöker kommunicera det. Men några som skulle behöva vänta till en annan dag. LeCun var att komma på en plan för att senare åka till Paris för att träffa journalister för att diskutera boken. Han är på omslaget den här veckan av en blank franska tidningen l’Obs (Nouvel Observateur) talar om löftet och med fara för AI. Han är den pied piper en rörelse som alla vill vara glada om eller rädd om. I decennier, LeCun och andra kan se det, men saker inte fungerar. Nu verkar det fungera så bra. Någon har fått för att vara dess ombudsmän. Det är LeCun.

Artificiell Intelligens

Wells Fargo: Artificiell intelligens och maskininlärning ett “tveeggat svärd”

Nej, detta AI har inte behärskar åttonde klass vetenskap

Vad är AI? Allt du behöver veta om Artificiell Intelligens

Nya AI jobb kommer att överträffa förlorade jobb (ZDNet YouTube)

Elon Musk säger AI kommer att göra jobb irrelevant (CNET)

Hur man lägger till artificiell intelligens för att din 2020 IT-budget (TechRepublic)

Relaterade Ämnen:

Big Data Analytics

Digital Omvandling

CXO

Sakernas Internet

Innovation

Affärssystem