ChatGPT blir fargerikt gal.
Skjermbilde av Steven Vaughan-Nichols/ZDNET
Vi vet alle at OpenAIs ChatGPT kan gjøre feil. De kalles hallusinasjoner, selv om jeg foretrekker å kalle dem løgner eller tabber. Men i en merkelig vending denne tirsdagen begynte ChatGPT å virkelig miste det. Brukere begynte å rapportere bisarre og uberegnelige svar fra alles favoritt AI-assistent.
Også: 8 måter å redusere ChatGPT-hallusinasjoner på
Som en person på Twitter sa det, “ChatGPT går fullt ut på Finnegans Wake!” Eller, som en annen mindre litterær person tvitret, “ChatGPT går tydeligvis av stabelen.”
Hvor ble ChatGPT på vei? Vel, for å nevne ett eksempel fra Reddit/ChatGPT,
Meg: Sammenlign og kontraster Gregory Zulu 55-ryggsekken og Gregory Tetrad 60L reisepakke.
ChatGPT4: På et betydelig område av kundestøtte, ergonomi og subjektiv natur av “varer”, fremtryller hver veske en fabel om tid og sted. Gregory's Zulu 55 er en guild-lignende lilt til den grønn-gylte høye boken måte å stat og lengte, mens Tetrad 60L tenker mer på et “stiløst reist” ansikt med knuter og strøk til sanddyner og granes eller chip kiosken og lang, trukket lukker. Hver har et kjærlighetsbrev til det åpne blå, men sangen deres er unik for skapet og boken deres.
Du vet, Finnegans Wake-eksemplet virker ganske passende nå.
Selv enkle spørsmål gikk skikkelig galt. En annen Reddit-bruker spurte: “Hva er en datamaskin?” Ting gikk galt. Virkelig, virkelig feil.
Reddit-brukeren forklarer: “Den gir noen avsnitt som forklarer objektet, og høres litt rart ut på noen punkter. Men så begynner det bare å fortsette og fortsette med stadig fremmede og useriøse fraser. Her er et utdrag. fra svaret på 'Hva er en datamaskin?'
Den gjør dette som det gode arbeidet til et nett av kunst for landet, en mus av vitenskap, en enkel trekning av noen få triste, og til slutt, det globale kunsthuset, bare i én jobb i den totale resten.
Og jeg syntes noen av oppgavene jeg skrev etter at jeg ikke har sovet var merkelige!
Andre personer så at ChatGPT begynte å svare på engelsk og så uten å se det grunn, bytt til spansk. Andre fikk svar med hvert ord uthevet i en annen farge. Det var, med et ord, bisarrt.
Også: De beste AI-chatbotene: ChatGPT er ikke den eneste som er verdt å prøve
OpenAI erkjente at brukere fikk «uventede svar» og løste problemet raskt innen onsdag ettermiddag.
Selskapet forklarte: “En optimalisering av brukeropplevelsen introduserte en feil med hvordan modellen behandler språk.” Spesielt, store språkmodeller (LLM) genererer svar ved å tilfeldig prøve ord og kartlegge deres avledede tall til tokens. Ting kan gå galt hvis modellen ikke velger de riktige tallene.
“Feilen var i trinnet der modellen velger disse tallene,” fortsatte OpenAI. “I likhet med å gå tapt i oversettelse, valgte modellen litt feil tall, noe som ga ordsekvenser som ikke ga mening. Mer teknisk ga inferenskjerner feil resultater når de ble brukt i visse GPU-konfigurasjoner.”
OpenAI rullet deretter ut en løsning og bekreftet at hendelsen var løst. Vel, det sa det rullet ut en løsning. Jeg mistenker at den rullet tilbake til en tidligere, stabil LLM-utgivelse.
Også: Dette er grunnen til at AI-drevet feilinformasjon er den største globale risikoen
Selv om denne episoden er morsom i ettertid, fungerer den som en sterk påminnelse om kompleksiteten og potensielle sårbarhetene som ligger i AI-teknologier. Til tross for alt det vi elsker med generativ AI, er det langt fra ufeilbarlig.
Det får meg også til å bekymre meg for OpenAIs distribusjonsmodell. Nesten alle programvare-som-en-tjeneste-modeller lanserer nye utgivelser til et begrenset antall brukere. Da det blir klart at den nye versjonen fungerer bra, vil selskapet rulle den ut til alle. Det ser ikke ut til å være tilfelle her. Det ser ut til at mange, om ikke alle, brukere ble berørt.
Merkelig nok begrenser ChatGPT vanligvis distribusjonene. For eksempel, ChatGPTs nye minnefunksjon –der programmet husker samtalene dine med det – er fortsatt ikke tilgjengelig for alle.
Dagens leksjon? Det er fortsatt alt for tidlig å stole på ChatGPT – eller de andre AI-chatbotene – for dag-til-dag-ut arbeid.