Bedrifter forbereder seg på å bygge sine egne LLM-er – hvorfor det er et smart trekk

0
20
853.333333ylow BentlyChang/Getty Images

Er bedrifter klare til å bygge og vedlikeholde sine egne interne store språkmodeller (LLM)? 

Kunstig intelligens – spesielt den generative varianten – har fanget den uhemmede interessen til både tekniske fagfolk og ledere. Tenk på dette: Til tross for alt det uendelige snakk om budsjettkutt for skytjenester og infrastruktur i nyere tid, har pengekranen åpnet seg for AI-finansiering. Men strømmer det utover til tjenester utenfor, eller innover til beboernes talent og ressurser?  

Også: Her er hvordan Apple holder de skybehandlede AI-dataene dine trygge (og hvorfor det er viktig)

Mange eksterne enheter, som OpenAI, Microsoft og Google, blir sett på som de primære leverandørene av LLM, infrastrukturstøtte og ekspertise. Interessen for interne LLM-prosjekter er imidlertid også økende. En ny undersøkelse av 1300 administrerende direktører fra TCS viser at omtrent halvparten av de spurte, 51 %, sa at de planlegger å bygge sine egne generative AI-implementeringer. Det betyr mye arbeid fremover – men heldigvis er grunnlaget allerede lagt med de offentlig tilgjengelige LLM-ene. 

"De grunnleggende LLM-ene — som GPT, Claude, Llama — kan best beskrives som verdenskloke; kan sees på som ompakking av internettkunnskap," Dr. Harrick Vin, teknologisjef for TCS og medforfatter av studien, fortalte ZDNET. "De har også høye nivåer av multimodal forståelse og generasjonsevner, sammen med resonneringsevner."  

Å konstruere disse grunnleggende modellene “er komplekst og dyrt”," sa Vin, som påpekte at interne bedriftsmodeller ville bygge på egenskapene til disse modellene. “Disse modellene vil utnytte de grunnleggende ferdighetene til grunnleggende modeller – som språkforståelse og -generering, resonnement og generell kunnskap. Men de må utvide og spesialisere dem til bransje-, bedrifts- og aktivitetssammenheng."

Heldigvis er “konstruksjon av slike spesialiserte modeller langt enklere og rimelig sammenlignet med utviklingen av grunnleggende modeller”," sa Vin. “Faktisk er den relative enkelheten det er å spesialisere grunnleggende LLM-er, som er brede AI-modeller, for å lage formålsspesifikke AI-modeller og -løsninger den primære årsaken til demokratiseringen av AI.”

Disse bedriftsspesifikke LLM-ene “refererer til industri-, bedrifts- og aktivitetsmessige modeller konstruert ved å bruke noen av de grunnleggende modellene, enten åpen kildekode eller kommersielle,” han fortsatte. “Vi tror at en AI-moden bedrift i fremtiden vil ha hundrevis eller tusenvis av målrettede AI-modeller, alle bygget ved å komponere evner til grunnleggende modeller med spesifikke bedriftsspesifikke evner.”

< strong>Også: Bedrifter' skysikkerhetsfeil er 'bekymrende' – ettersom AI-trusler akselererer

Utover å bygge og implementere modeller, må virksomheten være forberedt på generativ AI. Mer enn halvparten (55 %) sa at de aktivt gjorde endringer akkurat nå i deres forretnings- eller driftsmodeller, eller i deres produkter og tjenester, for å imøtekomme AI   Fire av 10 ledere sa at de i fremtiden har "mange endringer å gjøre i virksomheten deres" før de kan dra full nytte av AI, viser TCS-undersøkelsen. 

Dette peker på et langsom, men kraftig opptak av både generativ og operativ AI. I løpet av det siste året har “alle bedrifter eksperimentert med brukstilfeller av gen AI – og 2024 og utover vil handle om skalering av verdi”," sa Vin. “I løpet av eksperimenteringsfasen har imidlertid alle virksomheter innsett at skalering av verdi er utfordrende.” 

På dette tidspunktet er det bare 17 % som diskuterer Al og legger planer for hele virksomheten, viser TCS-undersøkelsen. I tillegg er bare 28 % klare til å etablere en bedriftsomfattende AI-strategi for å maksimere fordelene for selskapet. Likevel ser Vin et raskt oppsving i teknologien. “Det er en forskjell mellom å implementere AI-løsninger på en ad hoc-basis eller fra sak til sak, og å bygge en bedriftsomfattende plan for å bygge en AI-moden bedrift,”" sa Vin. "De relativt lave tallene i undersøkelsen refererer til etableringen av slike bedriftsomfattende strategier. Dette er forventet."

Også: Gi plass til RAG: Hvordan Gen AIs maktbalanse skifter

Når det gjelder bruken av AI-løsninger, fortsatte Vin, “tallene er ganske høye: 59 % av bedriftsfunksjonene har AI-implementeringer i gang eller fullført, og ytterligere 34 % planlegger AI-implementeringer. Vi er i den tidlige fasen av både teknologisk modenhet så vel som en bedriftsadopsjon, i skala, modenhet. De fleste bedrifter begynner å utnytte AI og genAI for spesifikke brukstilfeller, mens de legger ut på en langsiktig reise for å kvantifisere fordeler samt administrere tilsvarende kostnader og risikoer."

I løpet av det siste året har " hver bedrift har eksperimentert med genAI-brukstilfeller – og 2024 og utover vil handle om skaleringsverdi," sa Vin. “I løpet av eksperimenteringsfasen har imidlertid alle bedrifter innsett at skalering av verdi er utfordrende.”
For det første krever “å bygge effektive AI-løsninger data av høy kvalitet”," han sa. “Mens bedrifter har mye data, er de ofte fordelt på mange, gjensidig inkonsistente øyer. Mens de fleste foretak har begynt på konsoliderings- og moderniseringsreiser for data eiendom i løpet av de siste årene, er disse reisene langt fra fullførte. Videre er migreringen av dataområdet til skymiljøer under arbeid for de fleste bedrifter. Dette gjør det vanskelig for bedrifter å utnytte skybaserte grunnleggende LLM-er sammen med bedriftsdataene deres."
Også: Generativ AI kan skape mer arbeid enn det sparer 

I tillegg vil bedrifter “må forbedre sin modenhet for å administrere datalinje, bruk, sikkerhet og personvern proaktivt”," sa Vin. “De må mestre kunsten å bestemme hvilke data som kan brukes til hvilket formål, selv utilsiktet, for å forhindre skjevheter og urettferdig praksis. Dette er ikke bare en design-time-utfordring, men også en run-time-utfordring." Det er behov for systemer “for å oppdage, i sanntid, nye forhold der AI-modeller begynner å avvike fra forventet oppførsel.”  
Endelig endres roller og kompetansekrav raskere enn bedrifter kan følge med. “Med infusjonen av AI vil rollen til bedriftskunnskapsarbeidere endres fra arbeidere som utfører arbeid til trenere og avhørere av maskiner, anmeldere av arbeid utført av maskiner, så vel som eiere av kritisk tenkning og kreativitet”," sa Vin.