Brug af data indsamlet fra enkeltpersoner i lande med høj indkomst tjener muligvis ikke så godt, hvis sundhedsløsningen skulle bruges i lav- og mellemindkomstindstillinger ifølge en ny vejledning, der er offentliggjort af Verdenssundhedsorganisationen (WHO) .
“AI-systemer skal være omhyggeligt designet til at afspejle mangfoldigheden af socioøkonomiske og sundhedsmæssige omgivelser og ledsages af uddannelse i digitale færdigheder, engagement i lokalsamfundet og bevidstgørelse. Systemer, der primært er baseret på data om enkeltpersoner i højindkomstlande, fungerer muligvis ikke godt for enkeltpersoner i lav- og mellemindkomstindstillinger, “skrev WHO i sin etik og styring af kunstig intelligens til sundheds (PDF) -rapport.
” Landsinvesteringer i AI og den understøttende infrastruktur bør derfor hjælpe med at opbygge effektive sundhedssystemer ved at undgå AI, der koder for skævheder, der er skadelige for retfærdig levering af og adgang til sundhedstjenester. “
WHO tilføjede, hvis der ikke træffes “passende foranstaltninger”, når der udvikles AI-baserede sundhedsløsninger, kan det resultere i “situationer, hvor beslutninger, der skal træffes af udbydere og patienter, overføres til maskiner, hvilket ville underminere menneskelig autonomi” og føre til sundhedstjenester leveres i “uregulerede sammenhænge og af uregulerede udbydere, hvilket kan skabe udfordringer for regeringens tilsyn med sundhedspleje”.
Det påpeger også, at andre risici kan omfatte uetisk indsamling og brug af sundhedsdata; bias kodet i algoritmer; og risici for patientsikkerhed, cybersikkerhed og miljøet.
Skal læse: Etik ved AI: Fordele og risici ved kunstig intelligens
Rapporten er produkt af 18 måneders konsultationer mellem et panel af eksperter inden for etik, digital teknologi, lovgivning og menneskerettigheder, der blev udnævnt af WHO. Det bemærkede, at AI har et enormt potentiale til at forbedre sundhedspleje og medicin over hele verden, men kun hvis etiske overvejelser og menneskerettigheder placeres i centrum for design, udvikling og implementering.
”Som al ny teknologi har kunstig intelligens et enormt potentiale for at forbedre sundheden for millioner af mennesker over hele verden, men som al teknologi kan den også misbruges og forårsage skade,” sagde dr. Tedros Adhanom Ghebreyesus, WHO's generaldirektør. “Denne vigtige nye rapport giver en værdifuld guide til lande om, hvordan man maksimerer fordelene ved AI, samtidig med at man minimerer dens risici og undgår dens faldgruber.”
Rapporten forklarede, at AI potentielt kunne forbedre diagnose og klinisk pleje, forbedre sundhedsforskning og lægemiddeludvikling og hjælpe med implementeringen af forskellige folkesundhedsinterventioner, såsom sygdomsovervågning, udbrudssvar og styring af sundhedssystemer.
På samme tid kan brug af AI-baserede værktøjer hjælpe regeringer med at udvide sundhedstjenester til at omfatte dårligt stillede befolkninger, forbedre overvågningen af folkesundheden og gøre det muligt for sundhedsudbydere bedre at tage sig af patienter og deltage i kompleks pleje, rapporterer rapporten. sagde.
Læs mere: AI og etik: Den debat, der skal føres
Som en del af rapporten har WHO udviklet seks principper, som de håber vil blive brugt som grundlag for regeringer, teknologiudviklere, virksomheder og civilsamfundsorganisationer, når de udvikler AI til sundhed. Disse inkluderer at tillade mennesker at have autonomi over sundhedssystemer og medicinske beslutninger, samtidig med at privatlivets fred og fortrolighed beskyttes; menneskers trivsel og sikkerhed opretholdes sikre gennemsigtighed over udviklingen, design og implementering af AI-teknologi AI for sundhed er designet til at tilskynde til inklusivitet og retfærdighed; AI-applikationer er lydhøre og bæredygtige; og at interessenter involveret i design, udvikling og implementering af AI-teknologier opretholder ansvar og ansvarlighed.
I slutningen af sidste år lancerede World Economic Forum en rapport, der detaljerede, hvordan organisationer kunne tage en etisk tilgang til design af teknologi og ansvarlig anvendelse af den.
The Ethics by Design – En organisatorisk tilgang til ansvarlig brug af teknologi detaljerede tre designprincipper, der kan integreres for at fremme etisk adfærd, når det kommer til at skabe, implementere og bruge teknologi.
Disse principper omfattede opmærksomhed rettidigt på de etiske implikationer af teknologi ved at opbygge bevidsthed gennem træning og interne kommunikationskanaler, udvikle organisatoriske “knudepunkter” såsom tjeklister og bruge påmindelser om due diligence og væve værdi og etik ind i virksomhedskulturen.
Relateret dækning
Rapporten finder overraskende uinteresse i etisk, ansvarlig brug af AI blandt forretningsledere Data, analyser, maskinindlæring og AI i sundhedssektoren i 2021 Mærkede AI-regulering: Hvad det betyder for USA Problemet med AI: Hvorfor har vi brug for nye love for at stoppe algoritmer, der ødelægger vores live Denne opstart vil rette din forudindtagede AI, et datasæt ad gangen = “https://www.zdnet.com/a/hub/i/r/2014/02/17/fc9a5bf1-1174-11e4-9732-00505685119a/thumbnail/40×40/0cbfd49d5606aa5536ed8914168d4ec1/aimee-chanthadavong.jpg” “” height = “40” width = “40” alt = “Aimee Chanthadavong” height = “40” width = “40” title = “WHO advarer mod at anvende AI-modeller ved hjælp af data fra rige amter til alle andre” />