Volgens een nieuwe richtlijn die is gepubliceerd door de Wereldgezondheidsorganisatie (WHO) kan het gebruik van gegevens die zijn verzameld van personen in landen met een hoog inkomen, niet zo goed presteren als de zorgoplossing zou worden gebruikt in een omgeving met lage en middeninkomens. .
“AI-systemen moeten zorgvuldig worden ontworpen om de diversiteit van sociaaleconomische en gezondheidszorgomgevingen te weerspiegelen en vergezeld gaan van training in digitale vaardigheden, gemeenschapsbetrokkenheid en bewustmaking. Systemen die voornamelijk zijn gebaseerd op gegevens van individuen in landen met een hoog inkomen, presteren mogelijk niet goed voor individuen met lage en middeninkomens”, schreef de WHO in haar rapport Ethics and governance of artificial intelligence for health (pdf).
“Landelijke investeringen in AI en de ondersteunende infrastructuur zouden daarom moeten helpen om effectieve gezondheidszorgsystemen te bouwen door AI te vermijden die vooroordelen codeert die schadelijk zijn voor een rechtvaardige levering van en toegang tot gezondheidszorgdiensten.”
De WHO voegde toe dat als “passende maatregelen” niet worden genomen bij het ontwikkelen van op AI gebaseerde oplossingen voor de gezondheidszorg, dit kan leiden tot “situaties waarin beslissingen die door zorgverleners en patiënten moeten worden genomen, worden overgedragen aan machines, wat de menselijke autonomie zou ondermijnen” en zou leiden tot gezondheidszorgdiensten worden geleverd in “niet-gereguleerde contexten en door niet-gereguleerde aanbieders, wat problemen kan opleveren voor het overheidstoezicht op de gezondheidszorg”.
Het wijst er ook op dat andere risico's kunnen bestaan uit het onethisch verzamelen en gebruiken van gezondheidsgegevens; bias wordt gecodeerd in algoritmen; en risico's voor patiëntveiligheid, cyberbeveiliging en het milieu.
Moet lezen: Ethiek van AI: voordelen en risico's van kunstmatige intelligentie
Het rapport is het product van 18 maanden overleg tussen een panel van deskundigen op het gebied van ethiek, digitale technologie, recht en mensenrechten, aangesteld door de WHO. Het merkte op dat AI een enorm potentieel heeft om de gezondheidszorg en geneeskunde wereldwijd te helpen verbeteren, maar alleen als ethische overwegingen en mensenrechten centraal worden gesteld bij ontwerp, ontwikkeling en implementatie.
“Zoals alle nieuwe technologie heeft kunstmatige intelligentie een enorm potentieel om de gezondheid van miljoenen mensen over de hele wereld te verbeteren, maar net als alle andere technologie kan het ook worden misbruikt en schade toebrengen”, zegt Dr. Tedros Adhanom Ghebreyesus, directeur-generaal van de WHO. “Dit belangrijke nieuwe rapport biedt landen een waardevolle gids voor het maximaliseren van de voordelen van AI, terwijl de risico's worden geminimaliseerd en de valkuilen worden vermeden.”
Het rapport legde uit dat AI mogelijk de diagnose en klinische zorg zou kunnen verbeteren, het gezondheidsonderzoek en de ontwikkeling van geneesmiddelen zou kunnen verbeteren en zou kunnen helpen bij de implementatie van verschillende volksgezondheidsinterventies, zoals ziektesurveillance, reactie op uitbraken en beheer van gezondheidssystemen.
Tegelijkertijd kan het gebruik van op AI gebaseerde tools overheden helpen de gezondheidszorg uit te breiden naar achtergestelde bevolkingsgroepen, het toezicht op de volksgezondheid te verbeteren en zorgaanbieders in staat te stellen patiënten beter te verzorgen en complexe zorg te verlenen, aldus het rapport. zei.
Lees meer: AI en ethiek: het debat dat gevoerd moet worden
Als onderdeel van het rapport heeft de WHO zes principes ontwikkeld waarvan ze hoopt dat ze zullen worden gebruikt als basis voor regeringen, technologieontwikkelaars, bedrijven en maatschappelijke organisaties bij het ontwikkelen van AI voor de gezondheid. Deze omvatten het toestaan van mensen om autonomie te hebben over gezondheidszorgsystemen en medische beslissingen, terwijl privacy en vertrouwelijkheid worden beschermd; het welzijn en de veiligheid van de mens worden gehandhaafd; zorgen voor transparantie over de ontwikkeling, het ontwerp en de inzet van AI-technologie; AI voor gezondheid is ontworpen om inclusiviteit en rechtvaardigheid aan te moedigen; AI-applicaties zijn responsief en duurzaam; en dat belanghebbenden die betrokken zijn bij het ontwerp, de ontwikkeling en de inzet van AI-technologieën verantwoordelijkheid en verantwoordelijkheid behouden.
Eind vorig jaar lanceerde het World Economic Forum een rapport waarin gedetailleerd werd beschreven hoe organisaties een ethische benadering kunnen hanteren bij het ontwerpen en verantwoord gebruiken van technologie.
De ethiek door ontwerp — een organisatorische benadering van verantwoord gebruik van technologie bevat drie ontwerpprincipes die kunnen worden geïntegreerd om ethisch gedrag te bevorderen als het gaat om het creëren, implementeren en gebruiken van technologie.
Deze principes omvatten het tijdig aandacht schenken aan de ethische implicaties van technologie door bewustzijn te creëren door middel van training en interne communicatiekanalen, het ontwikkelen van organisatorische “nudges” zoals checklists en het gebruik van due diligence-herinneringen, en het verweven van waarde en ethiek in de bedrijfscultuur.
Aanverwante berichtgeving
Rapport constateert opzienbarende desinteresse in ethisch, verantwoord gebruik van AI onder bedrijfsleidersGegevens, analyse, machine learning en AI in de gezondheidszorg in 2021Gelekte AI-regelgeving: wat het betekent voor de VSHet probleem met AI: waarom we nieuwe wetten nodig hebben om te voorkomen dat algoritmen ons leven verpesten Deze startup wil je vooringenomen AI repareren, één dataset tegelijk
Verwante onderwerpen:
Artificial Intelligence CXO Digital Transformation Tech Industry Smart Cities Cloud 