Att använda data som samlats in från individer i höginkomstländer kanske inte fungerar lika bra om vårdlösningen skulle användas i låg- och medelinkomstlägen, enligt en ny vägledning som har publicerats av Världshälsoorganisationen (WHO) .
“AI-system måste utformas noggrant för att återspegla mångfalden av socioekonomiska miljöer och hälsovårdsinställningar och åtföljas av utbildning i digitala färdigheter, samhällsengagemang och medvetenhet. System som baseras främst på data om individer i höginkomstländer kanske inte fungerar väl för individer i miljöer med låg och medelinkomst, “skrev WHO i sin etik och styrning av artificiell intelligens för hälso- (PDF) -rapporten.
” Landsinvesteringar i AI och den stödjande infrastrukturen bör därför bidra till att bygga effektiva hälsovårdssystem genom att undvika AI som kodar för fördomar som är skadliga för rättvis tillhandahållande av och tillgång till vårdtjänster. “
WHO tillade om “lämpliga åtgärder” inte vidtas när man utvecklar AI-baserade vårdlösningar, kan det leda till “situationer där beslut som bör fattas av leverantörer och patienter överförs till maskiner, vilket skulle undergräva mänsklig autonomi” och leda till vårdtjänster levereras i “oreglerade sammanhang och av oreglerade leverantörer, vilket kan skapa utmaningar för regeringens tillsyn av hälso- och sjukvård”.
Det påpekar också att andra risker kan innefatta oetisk insamling och användning av hälsodata. bias kodas i algoritmer; och risker för patientsäkerhet, cybersäkerhet och miljö.
Måste läsa: Etik för AI: Fördelar och risker med artificiell intelligens
Rapporten är produkt av 18 månaders samråd mellan en panel av experter inom etik, digital teknik, lag och mänskliga rättigheter, som utsågs av WHO. Det noterade att AI har enorm potential att hjälpa till att förbättra hälso- och sjukvård och medicin över hela världen, men bara om etiska överväganden och mänskliga rättigheter placeras i centrum för design, utveckling och distribution.
“Liksom all ny teknik har artificiell intelligens enorm potential för att förbättra hälsan hos miljontals människor runt om i världen, men som all teknologi kan den också missbrukas och orsaka skada”, säger Dr Tedros Adhanom Ghebreyesus, WHO: s generaldirektör. “Den här viktiga nya rapporten ger en värdefull guide för länderna om hur man maximerar fördelarna med AI, samtidigt som man minimerar riskerna och undviker fallgropar.”
Rapporten förklarade att AI potentiellt skulle kunna förbättra diagnos och klinisk vård, förbättra hälsoforskning och läkemedelsutveckling och hjälpa till med utplacering av olika folkhälsointerventioner, såsom sjukdomsövervakning, utbrottssvar och hantering av hälsosystem.
Samtidigt kan användning av AI-baserade verktyg hjälpa regeringar att utvidga hälsovårdstjänsterna till befolkningar som är mindre väl underbyggda, förbättra övervakningen av folkhälsan och göra det möjligt för vårdgivare att bättre ta hand om patienter och delta i komplex vård, säger rapporten sa.
Läs mer: AI och etik: Debatten som måste tas
Som en del av rapporten har WHO utvecklat sex principer som de hoppas kommer att användas som grund för regeringar, teknikutvecklare, företag och civilsamhällesorganisationer när de utvecklar AI för hälsa. Dessa inkluderar att tillåta människor att ha autonomi över sjukvårdssystem och medicinska beslut samtidigt som sekretess och sekretess skyddas; människors välbefinnande och säkerhet bibehålls; se till att transparens upprätthålls när det gäller utveckling, design och användning av AI-teknik; AI för hälsa är utformat för att uppmuntra inkludering och rättvisa; AI-applikationer är lyhörda och hållbara. och att intressenter som är involverade i design, utveckling och distribution av AI-teknik upprätthåller ansvar och ansvar.
I slutet av förra året lanserade World Economic Forum en rapport som beskriver hur organisationer kan ta ett etiskt förhållningssätt till att utforma teknik och använda den på ett ansvarsfullt sätt.
The Ethics by Design – En organisatorisk strategi för ansvarsfull användning av teknik beskriver tre designprinciper som kan integreras för att främja etiskt beteende när det gäller att skapa, distribuera och använda teknik.
Dessa principer inkluderade att i rätt tid uppmärksamma de etiska konsekvenserna av teknik genom att bygga medvetenhet genom utbildning och interna kommunikationskanaler, utveckla organisatoriska “nudges” som checklistor och använda påminnelser om due diligence och väva värde och etik i företagskulturen.
Relaterad täckning
Rapporten finner otrolig intresse för etisk, ansvarsfull användning av AI bland företagsledare Data, analyser, maskininlärning och AI inom hälso- och sjukvården 2021 Läckt AI-reglering: Vad det betyder för USA Problemet med AI: Varför behöver vi nya lagar för att stoppa algoritmer som förstör vårt live Denna start vill fixa din partiska AI, en dataset i taget
Relaterade ämnen:
Artificiell intelligens CXO Digital Transformation Tech Industry Smart Cities Cloud 