OpenAIs nye Model Spec avslører mer om hvordan den vil at AI skal oppføre seg

0
17
Eugene Mymrin/Getty Images

OpenAI har vært ledende innen den generative AI-plassen siden lanseringen av  ChatGPT, og med den rollen har ansvaret for å skape presedenser for fremtidig AI-utvikling. For det formål – og ytterligere fremme åpenhet med offentligheten  – delte OpenAI et nytt dokument som gir brukerne dypere innsikt i AI-modellene.

Også: Er denne mystiske chatboten virkelig GPT-4.5 i forkledning? Slik ser du selv

På onsdag offentliggjorde OpenAI det første utkastet til modellspesifikasjonen, et dokument som skisserer hvordan selskapet vil at modellene deres skal oppføre seg i OpenAI API og ChatGPT og gir innsikt i hvordan selskapet tar beslutninger om sine modeller' atferd. 

Modellatferd refererer til hvordan AI-modeller reagerer på brukerinndata, inkludert egenskaper som tone, responslengde og mer. OpenAI forklarer at  AI-modeller er ikke eksplisitt programmert, men lærer av data; derfor forblir det å forme deres oppførsel en “ny vitenskap” med mange nyanser å ta hensyn til. 

Modellspesifikasjonen inkluderer dokumentasjon av hvordan OpenAI nærmer seg den komplekse oppgaven med å forme modellatferd, inkludert erfaringer og pågående forskning angående emnet. OpenAI forklarer at den ennå ikke har brukt modellspesifikasjonen “i sin nåværende form” men jobber med teknikker som gjør at modellene kan lære direkte fra spesifikasjonen. 

Innenfor dokumentet bryter OpenAI ned de tre Model Spec-typene av prinsipper: mål, som inkluderer å hjelpe utvikleren og sluttbrukeren og å være til fordel for menneskeheten; regler; og standardadferd, som refererer til retningslinjer i samsvar med målene og reglene.

Bedriften sier at det deler modellspesifikasjonen med publikum for å tjene som en retningslinje for forskere og AI-trenere som jobber med forsterkende læring fra menneskelig tilbakemelding. Ved å dele dokumentet søker OpenAI å øke åpenheten om modellene sine med publikum og samle inn alle tilbakemeldinger fra interessenter angående tilnærmingen.

Også: Google var rett i å være bekymret: OpenAI ønsker angivelig å gå inn i søkemarked

Tilbakemeldingsskjemaet for modellspesifikasjoner er åpent til 22. mai. Alle interessenter oppfordres til å fylle ut skjemaet, uavhengig av teknisk ekspertise.

Denne innsatsen passer inn i OpenAI&apos ;s pågående innsats for å utdype tilliten til sine interessenter angående modellene. Bare denne uken lanserte OpenAI et nytt verktøy som kan oppdage sine egne DALL-E 3-genererte AI-bilder.