Qualcomms nye AI Hub er et drømmeverktøy for utviklere som bygger modeller på enheten

0
22
image-qualcomm-ai-hub -1 Qualcomm

I fjor så vi en bølge av interesse og utvikling innen generative AI applikasjoner. Nå er vi inne i teknologiens neste æra – med AI på enheten som blir mer utbredt på våre personlige enheter. På Mobile World Congress avduket Qualcomm et verktøy som forenkler hvordan utviklere kan få tilgang til og laste ned AI-modeller rett til testenhetene sine.

Også: Hva kan du forvente av MWC 2024: Gjennomsiktige bærbare datamaskiner, AI-telefoner, smarte ringer, mer

Den nye Qualcomm AI Hub inneholder et bibliotek med over 75 generative AI-modeller som utviklere enkelt kan laste ned til Qualcomm-drevne enheter, med nye modeller som kontinuerlig legges til over tid.< /p>

Biblioteket inneholder noen av de mest populære modellene i bransjen som Whisper, OpenAIs automatiske talegjenkjenning (ASR)-system, og Stable Diffusion, Stability AIs tekst-til-bilde-modell. Qualcomm AI Hub bruker automatisk maskinvarebevisste optimaliseringer på modellene for overlegen AI-ytelse på enheten. 

Videre er modellene raffinert for å utnytte alle kjernene som finnes i Qualcomm AI Engine, inkludert NPU, CPU og GPU, noe som resulterer i bedre strømeffektivitet, lavere minneutnyttelse og opptil fire ganger slutningshastigheter, ifølge til selskapets mandagsutgivelse. 

Fordelen med on-device AI, i tillegg til den generelle økte applikasjonsytelsen, er at ved å gi avkall på friksjon med skyen, er det økt personvern, noe som er spesielt viktig når du lager modeller som bruker databaser med konfidensielle eller proprietære data. 

Også: Øyeblikkelig utvikling: Hvis AI kan designe en robot på 26 sekunder, hva annet kan den gjøre?< /p>

“Qualcomm AI Hub gir utviklere et omfattende AI-modellbibliotek for raskt og enkelt å integrere forhåndsoptimaliserte AI-modeller i applikasjonene sine, noe som fører til raskere, mer pålitelige og private brukeropplevelser,” sa Durga Malladi, Qualcomm SVP for teknologiplanlegging og avanserte løsninger. 

Qualcomm deler at de optimaliserte modellene er tilgjengelige i dag både på Qualcomm AI Hub, GitHub og Hugging Face. Utviklere kan registrere seg for tilgang fra og med i dag.