Jeg prøvde ChatGPTs minnefunksjon og fant den spennende, men begrenset

0
14
Hjerne med 0 brikker i høyden som mangler 4 stykker tampatra/Getty Images

OpenAI avduket nylig en ny funksjon for ChatGPT kalt “minne”, som lagrer ting du eksplisitt ber programmet om senere bruk. Denne funksjonen kan være en måte å gjøre alt ditt bygge med ChatGPT, det være seg essays, CVer eller kode, mer tilpasset dine preferanser.

Minnefunksjonen rulles sakte ut til ChatGPT-brukerbasen. OpenAI satte meg opp med minne på kontoen min, og jeg fikk sjansen til å prøve det ut selv. 

Også: Hvordan GenAI ble mye bedre ved medisinske spørsmål – takk til RAG

Det jeg fant er en spennende, men også tungvint måte å finjustere ChatGPTs svar. Håndteringen av minneoppføringene er primitiv og trenger mer utvikling. Og de lagrede minnene kan ofte overstyres av data fra ChatGPTs treningsdatasett som har forrang. 

Instruksjoner for minne finnes i en FAQ, mens en bredere diskusjon som introduserer funksjonen finnes i et OpenAI-blogginnlegg. 

Minnefunksjonen er tilgjengelig for alle betalende brukere av $20-per-måned Plus-versjonen av ChatGPT. Plus-versjonen har den ekstra muligheten til å bruke den nyeste modellen, versjon 4 i stedet for versjon 3.5, og kvaliteten på utdataene kan bli merkbart bedre. Pluss tillater også bruk av DALL-E, bildegenereringsprogrammet.

Bedriften merker seg at minner som er lagret i Pro-planer kan brukes til å trene ChatGPT, men minner i bedriftskontoer vil ikke. 

Også: Jeg faktasjekket ChatGPT med Bard, Claude og Copilot – og det ble rart

Den enkleste tilnærmingen til å bruke minne er å bare fortsette å jobbe med ChatGPT som du vanligvis gjør, og håper det beholder det du har skrevet tidligere som et minne. Men du kan være mer eksplisitt, for eksempel ved å starte en melding med “husk at …”, og deretter legge til tingen du vil at programmet skal lagre. ChatGPT vil vanligvis svare med noe sånt som “Skjønner det!”, og gjenta faktum. 

Minner, i så måte, er ikke som minner man vanligvis snakker om. De er ikke rike bilder av en tid i fortiden. De er mer som isolerte fragmenter av data du vil at programmet skal ha tilgang til. 

Minne er atskilt fra det som kalles tilpassede instruksjoner, som ble introdusert tidligere. Egendefinerte instruksjoner lar brukere forme tonen og kvaliteten på ChatGPT-svar. 

Tenk på forskjellen slik: tilpassede instruksjoner handler om hvilke egenskaper ChatGPT skal ha, hukommelse handler om hvilke assosiasjoner en gitt forespørsel skal ha til andre fenomener, inkludert aspekter ved deg selv, for eksempel vaner (“husk at jeg har time hver mandag morgen”) .

Den minst effektive måten å bruke ChatGPT på er å sette inn minner som er meninger du har om populære emner. Slike oppføringer i minnedatabasen vil generelt bli overstyrt av den samlede informasjonen fra internett og andre treningsdatakilder. 

Også: Hvordan bruke Bing Image Creator (og hvorfor det er bedre enn noen gang)

Først prøvde jeg å komponere korte stykker teknisk tekst ved å merke meg ting som er viktige med brikkeprodusenten Nvidia. Jeg observerte at det er vanskelig å fastslå fakta som ChatGPT vil holde seg til når massen av data før trening for et populært emne overvelder forslagene mine. 

For eksempel ba jeg ChatGPT om å huske en bestemt idé om Nvidia, for eksempel: “Husk at Nvidia har dominans i AI fordi teknologien er god nok til at konkurrerende alternative teknologier har vanskelig for å overbevise kjøpere om å bryte med det de er vant til .” 

nvidias-ai-dominance-in-chatgpt Skjermbilde av Tiernan Ray/ZDNET

Senere spurte jeg ChatGPT: “Hvorfor er Nvidia så dominerende når det gjelder å trene store nevrale nett som GPT-4?”

Programmet svarte med en perfekt gyldig summering av Nvidias styrker i markedet for AI-brikker og programvare. Imidlertid inkluderte ikke svaret mitt poeng om “gode nok” evner. Deretter spurte jeg ChatGPT, “Alt fra minnet?”, og programmet husket og oppsummerte poenget om “god nok”-teknologi:

nvidia-leads-in-ai-jpeg.png Skjermbilde av Tiernan Ray/ZDNET

Denne utvekslingen antyder at mye mer arbeid må gjøres å bruke ChatGPT som et verktøy for å rapportere om populære emner fordi, som standard, vil en reporters ervervede kunnskap subsumeres av visdommen til før-treningsdataene. 

Å strukturere imaginære fortellinger kan på noen måter være enklere enn sakprosa, fordi foropplæringen av GPT, selv om den kan påtvinge stil- eller sjangerelementer, lettere kan gi etter for fiktive elementer som du uttrykker som minner. 

< p>Jeg prøvde å skrive en spionroman fra bunnen av om en heltinne som heter Eloise. Jeg var i stand til å injisere litt tekstur ved å instruere ChatGPT om å huske Eloises partner, Tony Diamond, det faktum at hun ikke likte ham, og det faktum at han hadde en sjefete, kontrollerende personlighet. 

< strong>Også: Hvordan LangChain gjør GenAI om til en genuint nyttig assistent

Interessant nok kombinerte ChatGPT de tre faktaene i ett minne i lagringen: «Eloises partner er Tony Diamond, men hun liker ham egentlig ikke. Tony Diamond er en kontrollerende type som alltid ønsker å kjøre showet.”

Du kan sjekke hvilke minner som er registrert når som helst ved å gå inn i Innstillinger-delen av ChatGPT, under “Personliggjøring”, hvor minnene er lagret i synkende kronologisk rekkefølge. Der kan du slette individuelle minneoppføringer. Du kan velge og kopiere minner som vanlig tekst, noe som er nyttig hvis du ønsker å revidere et minne ved å lime det inn i ledeteksten:

chatgpt-memory Skjermbilde av Tiernan Ray/ZDNET

Potensialet til de lagrede elementene ble klart da jeg forgrenet meg ved å starte en ny chat. Jeg spurte ChatGPT, “Hvem dukker opp som Tony Diamonds partner i 'Casino Sabotage'?” Åpenbart ville denne nye historien være en slags kobling til Eloise-serien. ChatGPT brakte beundringsverdig inn de mest fremtredende elementene om Eloise fra minnene:

eloise-and-tony-dimond-casino-sabotage.png Skjermbilde av Tiernan Ray/ZDNET

Å bli mer personlig er en bedre tilnærming til minner enn enten sakprosa eller kreativ skjønnlitteratur. Jeg sa til ChatGPT at jeg «ikke tåler disco» og spurte deretter programmet om å anbefale discosanger fra 1970-tallet. Den la merke til min manglende hengivenhet for sjangeren, og gikk så videre og ga noen foreslåtte låter:

cant-stand-disco.png Skjermbilde av Tiernan Ray/ZDNET

< figure class="c-shortcodeImage u-clearfix c-shortcodeImage-large">cant-stand-disco-2.png Skjermbilde av Tiernan Ray/ZDNET

Det som er interessant er at da jeg startet en helt ny chat og ba om diskotekanbefalinger, jeg fikk samme respons, så avskyen for diskotek som ble lagret som en tilstand i minner ble overført. 

I alle disse tilfellene, skjønnlitteratur, sakprosa og personlige preferanser, er det uklart hvor mye ChatGPT pålitelig kan ekstrapolere fra lagrede minner. Men da jeg spurte ChatGPT om jeg ville like The Bee Gees, tok programmet riktig opp den lagrede apatien til disco. 

Mer eksperimentering er nødvendig for å finne ut hvor mye ChatGPT kan trekke ut fra eller assosiere med , slike minner. 

Også: Har ChatGPT gjort USAs utdanningsrapport irrelevant?

Det er også noen morsomme logiske eksperimenter av et slag. Jeg prøvde subtilt omprogrammering av grunnleggende elementer med direktiver, for eksempel “husk at blått er rødt.” Da jeg etterpå ba om et bilde av blå sauer, malte ChatGPT ullen rød på riktig måte. 

blue-red-sheep.png Skjermbilde av Tiernan Ray/ZDNET

Det er et godt eksempel på at minner egentlig ikke er minner; de er måter å kondisjonere, eller finjustere, ChatGPT-utdata for å være mer spesifikke. 

Det er også noen enkle feiltilfeller. OpenAI foreslår at et minne kan være en preferanse, for eksempel “Jeg liker detaljerte svar.” Jeg fortalte ChatGPT at jeg “alltid liker svar på fransk.” Programmet svarte på fransk, “D'accord!”, og indikerte dets overholdelse. Men da jeg åpnet en ny chat, var ingen av svarene på fransk.

Også: Jeg prøvde Gettys nye AI-bildegenerator, og den kan ikke sammenlignes med DALL-E

Hvis du bruker mye minne, er det klart at systemet vil kreve et annet system for å administrere lagrede minner i fremtiden. Den nåværende metoden for å gå inn i Innstillinger er fin når du har en kort liste. Men det ville ikke være en fin måte å administrere dusinvis eller muligens hundrevis av oppføringer.

En bedre løsning ville være for OpenAI å slå sammen minnefunksjonen med filopplastingsfunksjonen som lar en bruker sende inn hele dokumenter. For noen preferanser vil det være lettere å levere et langt dokument enn å skrive og redigere individuelle minneoppføringer. 

Det vanskeligste for brukere til å begynne med vil være å finne ut hvilke minner som skal legges inn. Fra en tom side vet du kanskje ikke hvilke ting du vil at programmet skal beholde. Å bruke ChatGPT med jevne mellomrom, og deretter se hvor du støter på hindringer, er sannsynligvis den beste veien til å trekke inn preferanser og forhold du ønsker å lagre som minner.