Laurence Dutton/Getty ImagesThe US Commerce Departments National Institute of Standards and Technology (NIST) har lansert et nytt program som tar sikte på å analysere generativ AI og finne ut hvordan USA trygt kan bruke teknologien uten å bli lurt av AI-generert innhold.
Handelsdepartementets avdeling for å analysere og vurdere teknologiske muligheter og risikoer kaller sitt nye program NIST GenAI. Byrået planlegger å lage GenAI-benchmarks, identifisere måter å avgjøre om innhold er menneskelig eller AI-generert, og til slutt fremme utviklingen av AI-teknologier som vil være bra for samfunnet som helhet. NIST sa ikke hvilke AI-teknologier den skal evaluere, men den sa at den planlegger å takle AI-modeller utviklet “over hele verden.”
"Pilotstudien tar sikte på å måle og forstå systematferd for å skille mellom syntetisk og menneskeskapt innhold i tekst-til-tekst (T2T) og tekst-til-bilde (T2I) modaliteter," sa byrået i en uttalelse. "Denne piloten tar for seg forskningsspørsmålet om hvordan menneskelig innhold skiller seg fra syntetisk innhold, og hvordan evalueringsfunnene kan veilede brukere i å skille mellom de to."
Også: Hva er generativ AI og hvorfor er det så populært? Her er alt du trenger å vite
NIST-kunngjøringen kommer seks måneder etter at USAs president Joe Biden ga ut en executive order som krever at alle amerikanske myndigheter skal utvikle trygge og sikre AI-strategier. NIST sa at det på den tiden utviklet fire AI-publikasjoner, inkludert for å redusere AI-risikoer og skape globale AI-standarder, som kan brukes av myndigheter og selskaper globalt.
NIST GenAI er i mellomtiden spesielt fokusert på begynnelsen av syntetisk AI, eller bilder og innhold laget av AI-modeller i stedet for mennesker. NIST lar team av forskere søke om å bli med i NIST GenAI-evalueringer som enten en “generator” eller en “diskriminator”. Den førstnevnte gruppen vil få i oppgave å teste hvor godt AI-systemene deres kan “generere syntetisk innhold som ikke kan skilles fra menneskeprodusert innhold.” Diskriminatorgruppene vil bli “testet på systemets evne til å oppdage syntetisk innhold skapt av store språkmodeller (LLM) og generative AI-modeller.”
NISTs innsats for å oppdage syntetisk AI er også fokusert på hvordan slikt innhold kan påvirke patenter, menneskelige oppfinnelser og industrier globalt. Byrået er bekymret for hvorvidt AI-generert innhold kan, eller til og med bør, patenteres og beskyttes av amerikansk lov om immaterielle rettigheter.
"Når AI påtar seg en større rolle i innovasjon, må vi oppmuntre de ansvarlige og sikker bruk av kunstig intelligens for å løse lokale og globale problemer og for å utvikle fremtidens arbeidsplasser og industrier, samtidig som man sikrer at kunstig intelligens ikke avsporer den kritiske rollen IP spiller for å stimulere menneskelig oppfinnsomhet og investeringer," Under sekretær for handel for intellektuell eiendom, sa Kathi Vidal i en uttalelse.
NIST planlegger å rulle ut NIST GenAi i etapper. Byrået sa at det vil begynne å akseptere teamregistreringer i programmet i mai 2024 og avslutte sin første testrunde i august 2024. Byrået sa ikke hvilke andre AI-relaterte problemer det vil ta tak i i påfølgende runder.