National Institute of Standards and Technology (NIST) – en del av det amerikanska handelsdepartementet – ber allmänheten om input om ett ramverk för AI -riskhantering, som organisationen håller på att utveckla som ett sätt att “hantera risker med artificiell intelligens. “
Artificiell intelligens Risk Management Framework (AI RMF) kommer att vara ett frivilligt dokument som kan användas av utvecklare, utvärderare och andra som ett sätt att” förbättra AI -systemens tillförlitlighet . “
NIST noterade att begäran om input kommer efter att kongressen och Vita huset bad organisationen att skapa en ram för AI.
Vice handelssekreterare Don Graves sa i ett uttalande att dokumentet “kan göra en kritisk skillnad i om ny AI -teknik är konkurrenskraftig på marknaden eller inte. “
“Varje dag blir det mer uppenbart att artificiell intelligens ger oss ett brett spektrum av innovationer och nya möjligheter som kan främja vår ekonomi, säkerhet och livskvalitet. Det är avgörande att vi är uppmärksamma och utrustade för att hantera de risker som AI -teknik introducerar tillsammans med sina fördelar, säger Graves.
“Denna AI Risk Management Framework hjälper designare, utvecklare och användare av AI att ta hänsyn till alla dessa faktorer – och därigenom förbättra USA: s kapacitet på en mycket konkurrenskraftig global AI -marknad.”
< p>Det finns en ökande efterfrågan på någon form av reglering kring AI: s användning inom branscher, särskilt när det börjar införlivas i ett antal kritiska, känsliga processer. Studier har visat att hundratals AI -system saknar fördomar som inte har tagits upp av deras skapare.
Ett försäkringsbolag, Lemonade Insurance, fick stora reaktioner i maj för att meddela att deras AI -system skulle bedöma om en person ljög om en bilolycka baserat på en video som lämnades efter händelsen.
Det finns redan en mångårig rörelse för att stoppa användningen av AI i ansiktsigenkänningsprogramvara som antagits av offentliga och privata institutioner.
NIST: s Elham Tabassi, federal AI -standardkoordinator och medlem i National AI Research Resource Task Force, förklarade att för att AI ska nå sin fulla potential som en fördel för samhället måste det vara en pålitlig teknik.
“Även om det kan vara omöjligt att eliminera de risker som ligger i AI, utvecklar vi detta vägledande ramverk genom en samförståndsdriven, samarbetsprocess som vi hoppas kommer att uppmuntra dess breda antagande och därigenom minimera dessa risker,” Sa Tabassi.
NIST noterade att utvecklingen och användningen av ny AI-baserad teknik, produkter och tjänster medför “tekniska och samhälleliga utmaningar och risker.”
“NIST efterlyser input för att förstå hur organisationer och individer som är involverade i att utveckla och använda AI -system kan kanske ta itu med hela AI -riskens omfattning och hur en ram för hantering av dessa risker kan konstrueras, säger NIST i ett uttalande.
NIST söker specifikt information om de största utmaningarna som utvecklare står inför när det gäller att förbättra hanteringen av AI-relaterade risker. NIST är också intresserad av att förstå hur organisationer för närvarande definierar och hanterar egenskaper hos AI -trovärdighet. Organisationen söker på liknande sätt input om i vilken utsträckning AI -risker integreras i organisationers övergripande riskhantering, särskilt kring cybersäkerhet, integritet och säkerhet.
NIST väntar svar senast den 19 augusti och de planerar att hålla en workshop i september där experter kommer att kunna hjälpa till att skapa dispositionen för det första utkastet.
När det första utkastet släpps fortsätter NIST att arbeta om det och kan komma tillbaka för fler offentliga kommentarer.
Lynne Parker, chef för National AI Initiative Office i Vita husets kontor för vetenskap och teknikpolitik, sa att AI Risk Management Framework kommer att “möta ett stort behov av att främja pålitliga tillvägagångssätt för AI för att tjäna alla människor på ansvarsfulla, rättvisa och fördelaktiga sätt. “
“AI -forskare och utvecklare behöver och vill överväga risker före, under och efter utvecklingen av AI -teknik, och detta ramverk kommer att informera och vägleda deras ansträngningar”, tillade Parker.
För att skicka svar till RFI, ladda ner mallens svarsformulär och skicka det till AIframework@nist.gov.
se även
Artificiell intelligens i den verkliga världen: Vad kan den egentligen göra?
Vilka är gränserna för AI? Och hur går du från att hantera datapunkter till att injicera AI i företaget?
Läs mer
Relaterade ämnen:
Government – US Digital Transformation CXO Internet of Things Innovation Enterprise Software 