Hvordan arbeidsenheter kan utvikle seg for å følge med i AI-tiden

0
16
Microsoft Surface Laptop Go 3 June Wan/ZDNET

Fremveksten av den nevrale prosesseringsenheten ( NPU) kan bli varslet som en spillveksler for personlige datamaskiner (PCer), men det er fortsatt avgjørende å finne den rette balansen i produktdesign for å levere det forbrukerne ønsker. 

Økende etterspørsel på arbeidsplassen etter verktøy for kunstig intelligens (AI), inkludert generativ AI (GenAI), har fått bransjeaktører som brikkeprodusenter og enhetsprodusenter til å sikre at produktene deres kan støtte dette skiftet.

Også: Hva er en AI PC? (Og bør du kjøpe en?)

Spesielt vil PC-er måtte følge med når selskaper flytter AI-arbeidsbelastninger fra skyen til klientenheter. Dette skiftet kan forbedre ytelsen ved å fjerne behovet for å sende AI-arbeidsbelastninger til skyen og tilbake til brukerens enhet. Bedrifter kan også styrke personvernet og sikkerheten for data ved å beholde data på enheten, i stedet for å flytte dem til og fra skyen.

Fordi AI-oppgaver som kjører lokalt på en PC, vanligvis utføres av CPU (sentral prosesseringsenhet), GPU (grafikkbehandlingsenhet), eller begge deler, kan enhetens ytelse og batterilevetid forringes, da ingen av dem er optimalisert for behandling av AI-oppgaver. Det er her AI-spesifikke brikker, eller NPU-er, kommer inn.

Brukerkravene er fortsatt fokusert på hybridarbeid

Under den globale pandemien dreide brukerkrav seg om muligheten til å jobbe eksternt og støtte en geografisk spredt arbeidsstyrke. Dette førte til forbedringer i innebygd kamera og videokonferansefunksjoner, ifølge Tom Butler, Lenovos administrerende direktør for kommersiell portefølje og produktadministrasjon, som leder maskinvareprodusentens kommersielle bærbare portefølje.

Dette presset Lenovo til å fokusere innsatsen på å forbedre kamera- og videokvaliteten, samt å bygge mikrofoner som støtter støysegmentering. Brukere ønsket også god bærbar ytelse, inkludert lang batterilevetid, sa Butler til ZDNET.

Også: Nvidia gjør saken for AI PC-en på CES 2024

Med arbeidsstyrker over hele verden fortsatt stort sett fjerntliggende eller hybride, har brukerkrav fortsatt fokusert på ytelse, batterilevetid og videokonferansemuligheter. Fremveksten av AI-PC-er har presset markedsaktører til å se på å laste ned enkelte arbeidsbelastninger, som støyreduksjon og bakgrunnsuskarphet, til NPU-er. 

Å finne den optimale måten å distribuere arbeidsbelastninger på er et hovedmål nå som PC-er har tre kjernemotorer om bord, bemerket Butler, og la til at alle Lenovos nye kommersielle bærbare datamaskiner leveres med NPU-er. "Vi beveger oss effektivt inn i AI PC-æraen," sa han.

I sin hovedtale på SXSW denne uken beskrev AMD-sjef Lisa Su også AI som en “evolusjon i PC-spillet.”

< p>“Det er begynnelsen på å la oss bli mye mer produktive”," Su sa og la til at AI PC-æraen allerede er her, med produkter på markedet i dag. Hun sa også at AMD jobber med å optimalisere sine brikker for AI, inkludert å bygge "bedre programvare" for produktivitet.

Også: For AI PC-ens alder kommer her en ny test av hastighet

2024 er året kundene vil begynne å spørre om enheten deres er AI-kompatible, sa Asus COO Joe Hsieh i et intervju med ZDNET. I likhet med Lenovo jobber Asus for å sikre at de nye produktene har NPU-er eller en kjernebrikkekomponent for AI-arbeidsbelastninger, sa Hsieh.

Asus er også fokusert på å utvikle den nødvendige programvaremotoren og verktøyene for å hjelpe brukerne med å trene sine egne AI-modeller, sa Hsieh, og la merke til at de fleste store språkmodeller for øyeblikket bare er trent på offentlige data. Med personlige enheter som håndterer AI-arbeidsbelastninger, tror Asus at brukerne vil at disse applikasjonene skal bruke dataene deres i stedet for offentlige data.

Optimalisering av maskinvare og programvare for AI

På spørsmål om hvilke krav som er tøffest å balansere etter hvert som etterspørselen etter AI-PCer øker, pekte Butler på de vanlige avveiningene mellom ønsket om tynnere og lettere enheter, sammen med lengre batterilevetid og bedre ytelse. 

Å øke ytelsen vil uunngåelig påvirke batteriets levetid og omvendt, sa han. “Med NPU-er [nå tilgjengelig] lar det oss imidlertid avlaste noen av arbeidsbelastningene som tradisjonelt vil beskatte enten GPU eller CPU,”" bemerket han. Støyreduserende evner kan for eksempel flyttes til NPU. Butler bemerket at programvareleverandører ser etter hvordan de kan optimalisere koden for å dra nytte av NPU-er. 

I mellomtiden ønsker Asus å tilby verktøy for å hjelpe utviklere med å velge de riktige dataressursene, iht. Albert Chang, Asus' visepresident og medsjef for AIoT-forretningsgruppen. Applikasjonsutviklere bør kunne avgjøre om CPU, NPU eller integrert GPU trenger å drive AI-verktøyet sitt, sa Chang.

Den kommende bølgen av AI-PCer

Forrester spår at 60 % av virksomhetene vil tilby GenAI-drevne applikasjoner for å betjene ansatte og kunder i 2024.

Forskerfirmaer forventer også at AI vil øke etterspørselen etter PC-er. IDC anslår at forsendelser av AI PC-er vil stige fra 50 millioner enheter i 2024 til mer enn 167 millioner i 2027, når de vil utgjøre nesten 60 % av de totale PC-forsendelsene. IDC definerer AI-PCer som personlige datamaskiner med system-på-en-brikke-funksjoner bygget for å kjøre GenAI-oppgaver på enheten.

Dessuten: Nvidias nye AI-chatbot kjører lokalt på PC-en din, og den er gratis

IDC anslår også at 265,4 millioner PC-er vil sendes over hele verden i 2024, opp 2 % fra 2023 og drevet av introduksjonen av AI-PCer. Disse systemene vil presse forsendelser til 292,2 millioner enheter i 2028, med en sammensatt årlig vekstrate på 2,4 % mellom 2024 og 2028. “Tilstedeværelsen av AI-funksjoner på enheten vil sannsynligvis ikke føre til en økning i PC-installert base, men det vil helt sikkert føre til en vekst i gjennomsnittlige salgspriser," sa Jitesh Ubrani, IDCs forskningssjef for verdensomspennende mobil- og forbrukerenhetsporing. 

Gartner anslår at 54,5 millioner AI-PCer vil sendes innen utgangen av året, mens antallet GenAI-smarttelefoner vil nå 240 millioner. Disse AI-enhetene vil utgjøre 22 % av alle PC-er og 22 % av grunnleggende og premium-smarttelefoner i 2024. Forskningsfirmaet definerer AI-PCer som de med dedikerte AI-akseleratorer eller kjerner, NPU-er, akselererte prosesseringsenheter (APU-er) eller tensorbehandlingsenheter ( TPUer), designet for å optimalisere og akselerere AI-oppgaver på enheten.

Også: Microsoft bekrefter neste Windows-, Surface- og AI-hendelse. Her er hva du kan forvente

IDC kategoriserer AI-PCer i tre grupper. Den første har PC-er med NPU-er som klokker opptil 40 tera-operasjoner per sekund (TOPS) og aktiverer spesifikke AI-funksjoner i applikasjoner som kjører lokalt på enheten. AMD, Intel, Apple og Qualcomm er blant brikkeprodusentene som leverer slike NPU-er i dag.

Den andre kategorien omfatter neste generasjons AI-PCer utstyrt med NPU-er som tilbyr mellom 40 og 60 TOPS og har en “AI- først" OS som støtter "persistent and pervasive" AI-evner, sa IDC. AMD, Intel og Qualcomm forventes å begynne å slippe disse brikkene i 2024, mens Microsoft forventes å avduke oppdateringer til Windows 11 for å utnytte disse NPU-ene.

Den siste kategorien av avanserte AI-PCer tilbyr mer enn 60 TOPS av NPU-ytelse og er for øyeblikket ikke i noen leverandørs annonserte produktpipeline.