Noll
Kör artificiell intelligens i mobila enheter är ett hett område för konkurrens mellan leverantörer som Apple och Samsung, som illustreras av Apples fortsatt betoning på “neurala motor” kretsar inom sitt “A-serie” – processorer i iPhone.
Men som en teknik, mobila neurala nätverk resonemang är fortfarande ett område som utvecklas av ryckighet.
Ny forskning belyser bara hur ojämn är den ansträngningar för att köra neurala nät på Googles Android-operativsystem. Jämföra resultat från forskare vid Schweiziska universitetet ETH Zürich visar att utvecklingen av neurala nätverk för mobila enheter är fortfarande en hårig företag, med ramar som är ofullständig, chipset med blandade stöd för nätverk, och resultat som är svåra att mäta på ett tillförlitligt sätt.
I en artikel publicerad på arXiv denna vecka, med titeln “PIRM Utmaning på Perceptuell Bild Förbättring på Smartphones,” Anders Ignatov och Radu Timofte, både av datorseende vid ETH Zürich, beskriva hur de rankas team av utvecklare som tävlade med olika typer av neurala nätverk som körs på Android-telefoner.
Även: Apple hoppas du ska räkna ut vad man ska göra med AI på iPhone XS
Orsaken till tävlingen, som Ignatov och Timofte förklara, är att AI utveckling i dessa dagar domineras av de metoder som används på Datorer och servrar, med liten hänsyn till vad som behövs i de begränsade omvärld av smartphones. ( Se utmaningen: s hemsida.)
“Den allmänt recept för att uppnå bästa resultat i dessa tävlingar är ganska lika: lager/filter, djupare arkitekturer och längre utbildning på massor av Grafikprocessorer.”
Kanske, skriver författarna, “är Det möjligt att uppnå mycket liknande perceptuella resultat genom att använda mycket mindre och resurseffektivt nätverk som kan köras på vanliga bärbara hårdvara såsom smartphones eller surfplattor.”
Konkurrenterna hade i uppdrag att komma med blandningar av nätdelar, såsom convolutional neurala nätverk, eller CNNs, att utföra grundläggande bilden uppgifter, till exempel att förbättra utseendet på bilder som tagits på telefonen. Deras nätverk var tvungna att vara skriven i Googles TensorFlow ram, fick plats i en fil som inte är större än 100 megabyte, och hade verksamhet i mer än 3,5 gb DRAM. De modeller som drivs av Ignatov och Timofte på två enheter, en 2017-eran “Razer Phone” från Motorola, som körs på Android 7.1.1, och en Huawei “P20” från April i år.
Resultaten rangordnas enligt vilket nät som var mest effektiv implementering i form av tid i millisekunder som vidtagits på CPU för att beräkna nätverk, och också vissa åtgärder för kvaliteten på det arbete som produceras.
Tävlingen hölls i samband med den Europeiska Konferensen om datorseende, som hölls i mitten av September i München, Tyskland.
Också: Huawei fast för fusk med M20, Ära, Spela riktmärken för prestanda
Bakgrunden till allt detta är att hårdvaruacceleration av neurala nätverk fortfarande är en blandad kompott. I en separat rapport, “AI Riktmärke: Kör Djupa Neurala Nätverk på Android Smartphones”, släppt denna vecka av Ignatov och Timofte, och medförfattare, med representanter från Google, mobila chip jätte Qualcomm, konkurrent MediaTek, författarna tog en titt på hur olika marker i frakt Android-telefoner kan utföra när man gör vissa grundläggande bild-bearbetning, såsom ansiktsigenkänning, bilden klassificering och image de-oskärpa.
Författarna testade nio uppgifter över 10 000 mobiltelefoner som är verksamma i det vilda, med över 50 olika modeller av processor som innehåller många neurala nätet acceleratorer och grafisk bearbetning enheter, eller GPUs.
Vad de fann var en riktig hodge-podge. Det enklaste sättet att programmera nätverk, de konstaterar, är att använda Googles “TensorFlow Mobil” ram, men att ramen inte har stöd för ett nyare bibliotek, känd som “Android NNAPI,” för “Android Neurala Nät – verk API.” NNAPI byggdes till abstrakt bort maskinvara uppgifter om enskilda processorer från Qualcomm, MediaTek, Huawei och Samsung.
Så ett nytt bibliotek, TensorFlow “Lite” har tagits fram av Google för att ersätta den mobila versionen, och det har stöd för NNAPI, men Lite har sina egna begränsningar: det är i en “preview” – utgåvan från och med tidpunkten för rapporten, och så saknas det “fulla stöd” för ett antal neurala nätverk verksamhet, inklusive “parti och exempel normalisering.”
Också: Qualcomm ökar mid-range smartphone AI med Snapdragon 670 mobila plattform
Författarna fann också Lite kan också konsumerar mycket mer än DRAM den Mobila versionen. För NNAPI, det har inte stöd för alla typer av neurala nätverk. CNNs, till exempel, kommer alla att vara utplacerade på AI acceleratorer i enheter, eller Gpu, men även andra typer av nätverk har att ta till som körs på CPU.
I summan, författarna fann att hårdvaruacceleration för neurala nät “är nu utvecklas extremt snabbt” men att “den nuvarande bristen på standardiserade krav och offentligt tillgängliga specifikationer inte alltid möjliggör en objektiv bedömning av deras verkliga fördelar och begränsningar.”
I fall du är intresserad av hårdvara resultat, författarna fann att “Kirin 970” – processor som kör i Huawei-telefoner, och utvecklas av Huawei dotterbolag HISilicon, toppade listorna i de övergripande resultaten i de nio uppgifter. Det följdes av mediateks “Helio P60,” och Samsungs “Exynos 9810.”
Men författarna varnar för att de inte tar ställning så långt som vars chip är bättre, med tanke på “som vår analys har visat att nästan alla SoC-tillverkare har potential att uppnå liknande resultat i sin nya styrkretsar.” Snarare, de förbinder sig att tillhandahålla pågående benchmark-test resultat som nya styrkretsar, och nya ramar och förare, växa fram.
Tidigare och relaterade täckning:
Vad är AI? Allt du behöver veta
En verkställande guide till artificiell intelligens, från maskininlärning och allmänna AI att neurala nätverk.
Vad är djupt lärande? Allt du behöver veta
Lowdown på djupt lärande: från hur det förhåller sig till de bredare fält av maskinen lärande genom hur man kommer igång med det.
Vad är lärande? Allt du behöver veta
Denna guide förklarar vad lärande är, hur den är relaterad till artificiell intelligens, hur det fungerar och varför det är viktigt.
Vad är cloud computing? Allt du behöver veta om
En introduktion till cloud computing rätt från grunderna upp till IaaS och PaaS, hybrid, offentliga och privata moln.
Relaterade artiklar:
Det finns ingen roll för AI eller data vetenskap: det här är ett lagarbete Start Släkt ger strimma av hopp för AI i robotik AI: vy från Chief Data Vetenskap Kontor Salesforce intron Einstein Röst, en AI röst assistent för företag att det inte är Det jobb AI är förstört som stör mig, det är de som växer Hur Facebook skalor AI
Relaterade Ämnen:
Smartphones
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem
0