Nul
Kunstig Intelligens er at forandre vores verden. Men den største udfordring er at gøre AI arbejde på kanten-på en selvkørende bil, eller din smartphone. Opbevaring er en stor AI flaskehals, men Apple ‘ s kontrol af hardware og software, vil gøre deres AI hurtig og billig.
Forskellige typer af arbejdsopgaver har forskellige typer af hukommelse og storage-adgang, og den delmængde af AI kaldet machine learning (ML) er ikke anderledes. ML har to primære arbejdsopgaver: Uddannelse og slutning.
Også: iPhone af vores drømme: De rettelser og funktioner Apple skal levere
ML uddannelse er data-intensive. At lære at skelne mellem et billede af en hund og et billede af en kat, ML behov for at se så mange, der er mærket billeder af hver enkelt som muligt at tilpasse sin anerkendelse parametre til præcist at skelne dog fra kat..
Trænede den resulterende model har behov for meget mindre lagerkapacitet, da det er nu bare et andet program, og ikke kan gemme tusindvis af billeder. Men den model behøver at være tæt på den processor, om det er en CPU, GPU, eller dedikeret AI hardware, så når et billede er sendt til det for klassificering, ML kan reagere hurtigt, og på kant enheder, energi-effektivt.
Gpu ‘ er
At reagere hurtigt kræver meget parallelitet, hvilket er grunden til grafikkort (Gpu ‘ er), der er populære i AI-servere: massiv parallelisme og høj båndbredde gør dem hurtigt. Men deres høje omkostninger og energiforbrug gøre Gpu ‘ er uanvendelig til mobil brug af enheden.
Gpu ‘er var ikke designet til ML brug – de lige er sket for at være den bedste platform til rådighed for ML på den tid – og nu er der snesevis af dedikerede AI/ML processor og co-processor design, herunder Apple’ s A11 Kunstige Neurale Motor. AI-processorer, som typisk har en bred array af simple processorer for parallelitet, reduceret floating point precision, og tuning for matrix-operationer.
Også: Ny 2018 iPhone: Alle rygterne om udgivelsesdato, specs, pris CNET
Afsendelse af et billede til ML program for klassificering kræver flere off-chip hukommelse og storage-adgang, hvilket nedsætter ydeevnen og øger energiforbruget. Placere AI-processorer i tæt nærhed til den model og data, der giver en dramatisk reduktion i i/O.
Hvor kommer i NVRAM
En luns — siger 32 til 64 mb — af on-chip non-volatile random-access memory (NVRAM) er stor nok til at sætte de fleste ML modeller til at være placeret tæt på den hardware, der udfører arbejdet. I dag, den model, der skal indlæses fra flash storage til DRAM, med de relevante dele flyttes til on-chip, der registrerer og statisk RAM efter behov.
Hvordan hjælper dette Apple?
Apple ‘ s eneste kilde til sin sædvane-processorer er TSMC, verdens største halvleder-støberi. TSMC har sat NVRAM på sin køreplan for 2019. Sætte fordelene ved on-chip AI brug NVRAM-sammen med TSMC ‘s engagement i NVRAM, og du har en oplagt og en betydelig forbedring, at Apple’ s mobile enheder.
Opbevaring Bits tage
Meget var lavet af Apple ‘ s langsom start i AI for et par år siden. Men Apple har ofte været langsomme til markeder, som de senere kom til at dominere, såsom musik-afspillere og smartphones.
Apple ‘ s evne til at styre hele hardware og software stack har været instrumental i deres marts til en $1T værdiansættelse. Det centrale er, at det giver dem mulighed for at producere højere ydelse-enheder, da de ikke er nødt til at lave kompromiser, der integratorer af råvare dele gør.
Også: 10 års Revner Åbne Apple iPhone TechRepublic
Placere ML modeller i on-chip NVRAM ved siden af AI-processor vil forbedre ydeevnen, reducere energi-forbruget, og gør det nemt for Apple at opdatere ML modeller under iOS-opdateringer. Det vil også ulempe konkurrenter, der ikke har råd til, at niveauet af on-chip integration.
AI er at forandre vores verden. Det vil også genindspilning af den mobile enhed marked, med Apple at tage føringen.
Kommentarer er velkomne, som altid.
Relaterede historier:
Vil have Google til at spore dig mindre? Få en iPhone, grøft AndroidApple opdateringer iOS 12 beta endnu en gang, som lanceringen nearsPhone det i: 11 bedste smartphones for erhvervskunder
Relaterede Emner:
Apple
Hardware
Anmeldelser
Mobilitet
Datacentre
Cloud
0