Noll
Artificiell Intelligens är att göra vår värld. Men den största utmaningen är att göra AI arbete vid kanten — på en självgående bil, eller din smartphone. Lagring är en viktig AI flaskhals, men Apples kontroll av all hårdvara och programvara som kommer att göra deras AI snabbt och prisvärt.
Olika typer av arbetsbelastning har olika typer av minne och lagring tillgång, och den delmängd av AI som heter machine learning (ML) är inte annorlunda. ML har två huvudsakliga uppgifter: Utbildning och slutledning.
Också: iPhone i våra drömmar: De fixar och funktioner Apple måste leverera
ML-utbildning är kunskapsintensiv. Att lära sig att skilja mellan en bild av en hund och en bild på en katt, ML behov att se så många märkt bilder av varandra som möjligt för att justera dess erkännande parametrar för att exakt skilja hunden från katt..
När utbildade den resulterande modellen behöver mycket mindre lagringskapacitet, eftersom det är nu bara ett annat program, och inte lagra tusentals bilder. Men modellen behöver vara nära processor, oavsett om det är en CPU, GPU, eller dedikerade AI hårdvara, så när en bild skickas till det för klassificering, ML kan svara snabbt, och, på kanten enheter, energi effektivt.
Grafikprocessorer
Svara snabbt kräver mycket parallellism, vilket är varför grafikkort (Gpu) är populära i AI-servrar: deras massiv parallellism och hög bandbredd gör dem snabbt. Men deras höga kostnader och energianvändning göra Grafikprocessorer opraktiskt för mobila enheter användning.
Gpu var inte designade för ML användning – de bara råkade vara den bästa plattformen tillgänglig för ML på den tiden – och nu finns det massor av dedikerade AI/ML-processor och co-processor konstruktioner, inklusive Apples A11 Bionic Neurala Motor. AI-processorer har vanligtvis ett brett utbud av enkla processorer för parallellitet, minskad flyttal precision, och tuning för matrisoperationer.
Också: Nya 2018 iPhone: Alla rykten om utgivningsdatum, specifikationer, pris CNET
Skicka en bild till ML-program för klassificering kräver flera off-chip-minne och lagring har åtkomst till, vilket saktar prestanda och ökar energiförbrukningen. Placera AI-processorer i nära anslutning till den modell och de uppgifter som möjliggör en dramatisk minskning i i/O.
Där kommer i NVRAM
En bit säga — 32 till 64 mb-on-chip-non-volatile random access memory (NVRAM) är tillräckligt stor för att sätta de flesta ML-modeller för att placeras i anslutning till den hårdvara som gör jobbet. Idag, modellen måste vara laddad från flash lagring för att DRAM, i relevanta delar flyttas till on-chip register och statiska RAM-minne som behövs.
Hur hjälper det Apple?
Apples enda källan för sina egna processorer är TSMC som är världens största halvledare gjuteri. TSMC har lagt NVRAM på sin färdplan för 2019. Sätta fördelarna med on-chip AI hjälp av NVRAM tillsammans med TSMC: s åtagande till NVRAM, och du har ett självklart och betydande förbättring till Apples mobila enheter.
Lagring ta Bitar
Mycket var gjort av Apples långsam start i AI för några år sedan. Men Apple har ofta varit långsamma med att marknader som de senare kom att dominera, till exempel musik-spelare och smartphones.
Apples förmåga att styra hela hårdvara och mjukvara stack har varit avgörande för deras marsch till en $1T värdering. Det viktiga är att det gör det möjligt för dem att producera högre prestanda, eftersom de inte har att göra kompromisser som integratörer av råvaror delar gör.
Också: 10 år av Sprickbildning Öppna Apple iPhone TechRepublic
Placera ML modeller i on-chip NVRAM bredvid AI-processor kommer att förbättra prestandan, minska energianvändningen och göra det enkelt för Apple att uppdatera ML-modeller under iOS uppdateringar. Det kommer också att missgynna konkurrenter som inte har råd att nivån av on-chip integration.
AI är att göra vår värld. Det kommer också att göra om den mobila enheten marknaden, med Apple i spetsen.
Kommentarer välkomna, som alltid.
Relaterade artiklar:
Vill Google att spåra dig mindre? Få en iPhone, dike AndroidApple uppdateringar av iOS 12 beta än en gång, eftersom lanseringen nearsPhone det i: 11 bästa smartphones för företagsanvändare
Relaterade Ämnen:
Apple
Hårdvara
Recensioner
Rörlighet
Datacenter
Cloud
0