Det hvite hus planlegger å regulere myndighetenes bruk av kunstig intelligens

0
10
AI-datakonsept Weiquan Lin/Getty Images

Biden-administrasjonen jobber for å sikre at den amerikanske regjeringen bruker kunstig intelligens på en ansvarlig måte, kunngjorde Det hvite hus i dag.

Innen 1. desember 2024 vil alle amerikanske føderale byråer være pålagt å ha AI "sikkerhetskontroller" på plass for å sikre sikkerheten til amerikanske borgere, sa Det hvite hus torsdag. Sikkerhetstiltakene vil bli brukt til å “vurdere, teste og overvåke” hvordan AI blir brukt av offentlige etater, unngå enhver diskriminering som kan oppstå ved bruk av AI, og til slutt la publikum se hvordan USA bruker AI.

Også: FN' s AI-oppløsning er ikke-bindende, men fortsatt en stor sak – her er hvorfor

“Denne veiledningen setter mennesker og lokalsamfunn i sentrum av myndighetenes innovasjonsmål,” Det sier Det hvite hus i en uttalelse. "Federale byråer har et tydelig ansvar for å identifisere og håndtere AI-risikoer på grunn av rollen de spiller i samfunnet vårt, og publikum må ha tillit til at byråene vil beskytte deres rettigheter og sikkerhet."

Den amerikanske regjeringen har brukt kunstig intelligens i en eller annen form i årevis, men det blir vanskeligere å vite hvordan — og hvorfor. I fjor utstedte president Joe Biden en executive order om AI, som krever at bruken i regjeringen først skal fokusere på sikkerhet og sikkerhet. Denne siste endringen i retningslinjene bygger på den utøvende ordren.

Det er forståelige bekymringer for hvordan offentlige etater kan bruke AI. Fra rettshåndhevelse til offentlige politiske beslutninger kan AI brukes på spesielt effektive måter. Og det er mulig at hvis AI får lov til å gå amok, uten menneskelig tilsyn og noen kontroller på plass for å sikre at den brukes riktig, kan teknologien til slutt forårsake uforutsette og potensielt negative effekter.

I en uttalelse ga Det hvite hus noen eksempler på hvordan sikkerhetstiltak kan settes på plass for å beskytte amerikanere. Et eksempel nevnt reisende kan få lov til å velge bort ansiktsgjenkjenningsverktøy mens de er på flyplasser. I et annet sa Det hvite hus at mennesker burde være på plass for å verifisere informasjon gitt av AI angående en persons beslutninger om helsevesenet.

Se også: De fleste amerikanere vil ha føderal regulering av AI, viser meningsmåling

Veiledningen i Det hvite hus beordrer alle offentlige organer til å overholde sikkerhetskravet. Bare under visse omstendigheter vil et myndighetsorgan få lov til å bruke et AI-verktøy uten slike sikkerhetstiltak.

"Hvis et byrå ikke kan anvende disse sikkerhetstiltakene, må byrået slutte å bruke AI-systemet," Det hvite hus sa, “med mindre byråets ledelse rettferdiggjør hvorfor dette ville øke risikoen for sikkerhet eller rettigheter generelt eller ville skape en uakseptabel hindring for kritiske byråoperasjoner.”

Det er foreløpig uklart hva slags tilfredsstillende beskyttelsesbyråer vil vedta innen 1. desember, og Det hvite hus sa ikke hvordan disse retningslinjene vil bli offentliggjort eller om det vil være en prosess for å begjære forbedrede sikkerhetstiltak. Det er også verdt å merke seg at den nye policyen kun omfatter føderale byråer. For at lignende sikkerhetstiltak skal iverksettes på delstatsnivå, må hver stat utstede lignende retningslinjer.