Det kan hende at bruk av data samlet inn fra enkeltpersoner i land med høy inntekt ikke fungerer like bra hvis helseløsningen skulle brukes i miljøer med lav og mellominntekt, ifølge en ny veiledning som er publisert av Verdens helseorganisasjon (WHO) .
“AI-systemer må være nøye utformet for å gjenspeile mangfoldet av sosioøkonomiske miljøer og helsevesen og ledsages av opplæring i digitale ferdigheter, samfunnsengasjement og bevisstgjøring. Systemer basert hovedsakelig på data om enkeltpersoner i høyinntektsland kan ikke utføre godt for enkeltpersoner i lav- og mellominntektsmiljøer, “skrev WHO i sin etikk og styring av kunstig intelligens for helse (PDF).” bygge effektive helsevesenssystemer ved å unngå AI som koder for skjevheter som er skadelig for rettferdig levering av og tilgang til helsetjenester. “
WHO la til at hvis “ikke passende tiltak” ble tatt når man utvikler AI-baserte helseløsninger, kan det resultere i “situasjoner der beslutninger som bør tas av leverandører og pasienter overføres til maskiner, noe som vil undergrave menneskelig autonomi” og føre til helsetjenester blir levert i “uregulerte sammenhenger og av uregulerte leverandører, noe som kan skape utfordringer for myndigheters tilsyn med helsevesenet.”
Det peker også på at andre risikoer kan omfatte uetisk innsamling og bruk av helsedata; bias blir kodet i algoritmer; og risiko for pasientsikkerhet, cybersikkerhet og miljøet.
Må lese: Etikk ved AI: Fordeler og risiko ved kunstig intelligens
Rapporten er produkt av 18 måneders konsultasjoner mellom et panel av eksperter innen etikk, digital teknologi, lov og menneskerettigheter, som ble utnevnt av WHO. Den bemerket at AI har et enormt potensial for å forbedre helsetjenester og medisiner over hele verden, men bare hvis etiske hensyn og menneskerettigheter blir satt i sentrum for design, utvikling og distribusjon.
“Som all ny teknologi har kunstig intelligens et enormt potensiale for å forbedre helsen til millioner av mennesker over hele verden, men som all teknologi kan den også misbrukes og forårsake skade,” sa Dr. Tedros Adhanom Ghebreyesus, WHOs generaldirektør. “Denne viktige nye rapporten gir en verdifull guide for land om hvordan man maksimerer fordelene med AI, samtidig som man minimerer risikoen og unngår fallgruvene.”
Rapporten forklarte at AI potensielt kunne forbedre diagnose og klinisk behandling, forbedre helseforskning og medisinutvikling og hjelpe til med distribusjon av ulike folkehelseintervensjoner, for eksempel sykdomsovervåking, utbruddsrespons og styring av helsesystemer.
Samtidig kan bruk av AI-baserte verktøy hjelpe myndighetene å utvide helsetjenestene til befolkningen som er underbetjente, forbedre overvåkingen av folkehelsen og gjøre det mulig for helsepersonell å bedre ta seg av pasienter og engasjere seg i kompleks omsorg, rapporterer sa.
Les mer: AI og etikk: Debatten som må gjennomføres
Som en del av rapporten har WHO utviklet seks prinsipper som de håper vil bli brukt som grunnlag for regjeringer, teknologiutviklere, selskaper og sivilsamfunnsorganisasjoner når de utvikler AI for helse. Disse inkluderer å tillate mennesker å ha autonomi over helsesystemer og medisinske avgjørelser samtidig som det sikres at personvern og konfidensialitet er beskyttet; menneskers velvære og sikkerhet opprettholdes; sikre at åpenhet opprettholdes over utvikling, design og distribusjon av AI-teknologi; AI for helse er designet for å oppmuntre inkludering og rettferdighet; AI-applikasjoner er responsive og bærekraftige; og at interessenter involvert i design, utvikling og distribusjon av AI-teknologier opprettholder ansvar og ansvarlighet.
På slutten av fjoråret lanserte World Economic Forum en rapport som detaljerte hvordan organisasjoner kunne ta en etisk tilnærming til design av teknologi og bruk av den på en ansvarlig måte.
The Ethics by Design – En organisatorisk tilnærming til ansvarlig bruk av teknologi detaljerte tre designprinsipper som kan integreres for å fremme etisk atferd når det gjelder å skape, distribuere og bruke teknologi.
Disse prinsippene inkluderte å ta hensyn til de etiske implikasjonene av teknologi i tide ved å bygge bevissthet gjennom opplæring og interne kommunikasjonskanaler, utvikle organisatoriske “nudges” som sjekklister og bruke påminnelser om due diligence, og flette verdi og etikk inn i bedriftskulturen.
Relatert dekning
Rapporten viser oppsiktsvekkende uinteresse i etisk, ansvarlig bruk av AI blant bedriftsledere Data, analyse, maskinlæring og AI i helsevesenet i 2021 Lekkert AI-regulering: Hva det betyr for USA med AI: Hvorfor trenger vi nye lover for å stoppe algoritmer som ødelegger live Denne oppstarten vil fikse din forutinntatte AI, ett datasett om gangen
Relaterte emner:
Artificial Intelligence CXO Digital Transformation Tech Industry Smart Cities Cloud 