Das National Institute of Standards and Technology (NIST) – Teil des US-Handelsministeriums – bittet die Öffentlichkeit um Beiträge zu einem KI-Risikomanagement-Framework, das die Organisation derzeit entwickelt, um “das Management der Risiken durch künstliche Intelligenz.”
Das Artificial Intelligence Risk Management Framework (AI RMF) wird ein freiwilliges Dokument sein, das von Entwicklern, Bewertern und anderen verwendet werden kann, um “die Vertrauenswürdigkeit von KI-Systemen zu verbessern”. .”
NIST stellte fest, dass die Bitte um Beiträge nach dem Kongress kommt und das Weiße Haus die Organisation gebeten hat, einen Rahmen für KI zu schaffen.
Der stellvertretende Handelsminister Don Graves sagte in einer Erklärung, dass das Dokument „einen entscheidenden Unterschied machen könnte“ ob neue KI-Technologien auf dem Markt wettbewerbsfähig sind oder nicht.”
„Jeden Tag wird deutlicher, dass künstliche Intelligenz uns eine breite Palette von Innovationen und neuen Fähigkeiten bringt, die unsere Wirtschaft, Sicherheit und Lebensqualität voranbringen können mit ihren Vorteilen”, sagte Graves.
“Dieses KI-Risikomanagement-Framework wird Designern, Entwicklern und Benutzern von KI helfen, all diese Faktoren zu berücksichtigen – und dadurch die Fähigkeiten der USA in einem sehr wettbewerbsintensiven globalen KI-Markt zu verbessern.”
< p>Die Nachfrage nach einer Form der Regulierung des Einsatzes von KI in allen Branchen steigt, insbesondere da sie in eine Reihe kritischer, sensibler Prozesse integriert wird. Studien haben gezeigt, dass Hunderte von KI-Systemen mit Vorurteilen behaftet sind, die von ihren Entwicklern nicht berücksichtigt wurden.
Die Versicherungsgesellschaft Lemonade Insurance war im Mai mit erheblichen Gegenreaktionen konfrontiert, als sie ankündigte, dass ihr KI-System anhand eines nach dem Vorfall eingereichten Videos beurteilen würde, ob eine Person über einen Autounfall lügt.
Es gibt bereits seit langem eine Bewegung, um die Verwendung von KI in Gesichtserkennungssoftware von öffentlichen und privaten Einrichtungen zu beenden.
Elham Tabassi vom NIST, Bundeskoordinator für KI-Standards und Mitglied der National AI Research Resource Task Force, erklärte, dass KI eine vertrauenswürdige Technologie sein muss, damit sie ihr volles Potenzial als Nutzen für die Gesellschaft ausschöpfen kann.
“Obwohl es möglicherweise unmöglich ist, die mit KI verbundenen Risiken zu eliminieren, entwickeln wir diesen Leitlinienrahmen durch einen konsensorientierten, kollaborativen Prozess, von dem wir hoffen, dass er seine breite Akzeptanz fördert und dadurch diese Risiken minimiert.” sagte Tabassi.
NIST stellte fest, dass die Entwicklung und Nutzung neuer KI-basierter Technologien, Produkte und Dienste “technische und gesellschaftliche Herausforderungen und Risiken” mit sich bringt.
“NIST bittet um Input, um zu verstehen, wie Organisationen und Einzelpersonen an der Entwicklung und Nutzung beteiligt sind KI-Systeme könnten in der Lage sein, den gesamten Umfang des KI-Risikos abzudecken und wie ein Rahmen für das Management dieser Risiken aufgebaut werden könnte“, sagte NIST in einer Erklärung.
NIST sucht gezielt nach Informationen zu den größten Herausforderungen, denen Entwickler bei der Verbesserung des Managements von KI-bezogenen Risiken gegenüberstehen. NIST ist auch daran interessiert zu verstehen, wie Unternehmen derzeit Merkmale der KI-Vertrauenswürdigkeit definieren und verwalten. Das Unternehmen sucht ebenfalls nach Input darüber, inwieweit KI-Risiken in das übergreifende Risikomanagement des Unternehmens einbezogen werden, insbesondere in Bezug auf Cybersicherheit, Datenschutz und Sicherheit.
NIST erwartet Antworten bis zum 19. August und plant, im September einen Workshop abzuhalten, bei dem Experten bei der Erstellung des Entwurfs für den ersten Entwurf helfen können.
Sobald der erste Entwurf veröffentlicht ist, wird NIST weiterarbeiten darauf und kann für weitere öffentliche Kommentare wiederkommen.
Lynne Parker, Direktorin des National AI Initiative Office im White House Office of Science and Technology Policy, sagte, das AI Risk Management Framework werde “einen großen Bedarf bei der Weiterentwicklung vertrauenswürdiger Ansätze für die KI erfüllen, um allen Menschen zu dienen”. auf verantwortungsvolle, gerechte und vorteilhafte Weise.”
„KI-Forscher und -Entwickler müssen und wollen Risiken vor, während und nach der Entwicklung von KI-Technologien berücksichtigen, und dieser Rahmen wird ihre Bemühungen informieren und leiten“, fügte Parker hinzu.
Um Antworten an die RFI zu senden, laden Sie das Muster-Antwortformular herunter und senden Sie es per E-Mail an AIframework@nist.gov.
siehe auch
Künstliche Intelligenz in der realen Welt: Was kann sie eigentlich?
Wo liegen die Grenzen der KI? Und wie gelangen Sie von der Verwaltung von Datenpunkten zur Einführung von KI im Unternehmen?
Weiterlesen
Verwandte Themen:
Regierung – US Digital Transformation CXO Internet of Things Innovation Unternehmenssoftware 