Selon une nouvelle directive publiée par l'Organisation mondiale de la santé (OMS), l'utilisation de données collectées auprès d'individus dans des pays à revenu élevé peut ne pas fonctionner aussi bien si la solution de soins de santé devait être utilisée dans des milieux à revenu faible ou intermédiaire. .
« Les systèmes d'IA doivent être soigneusement conçus pour refléter la diversité des contextes socio-économiques et de soins de santé et être accompagnés d'une formation aux compétences numériques, à l'engagement communautaire et à la sensibilisation. Les systèmes basés principalement sur les données des individus dans les pays à revenu élevé peuvent ne pas fonctionner bien pour les personnes dans les milieux à revenu faible et intermédiaire”, a écrit l'OMS dans son rapport sur l'éthique et la gouvernance de l'intelligence artificielle pour la santé (PDF).
“Les investissements des pays dans l'IA et l'infrastructure de soutien devraient donc aider à construire des systèmes de santé efficaces en évitant l'IA qui code des biais qui nuisent à la fourniture et à l'accès équitables aux services de santé.”
L'OMS a ajouté que si des “mesures appropriées” ne sont pas prises lors du développement de solutions de soins de santé basées sur l'IA, cela pourrait entraîner “des situations dans lesquelles les décisions qui devraient être prises par les prestataires et les patients sont transférées vers des machines, ce qui saperait l'autonomie humaine” et conduirait à des services de santé étant dispensés dans “des contextes non réglementés et par des prestataires non réglementés, ce qui pourrait créer des défis pour la surveillance gouvernementale des soins de santé”.
Il souligne également que d'autres risques pourraient inclure la collecte et l'utilisation contraires à l'éthique de données sur la santé ; biais encodé dans des algorithmes ; et les risques pour la sécurité des patients, la cybersécurité et l'environnement.
À lire : Ethique de l'IA : avantages et risques de l'intelligence artificielle
Le rapport est le produit de 18 mois de consultations entre un panel d'experts en éthique, numérique, droit et droits de l'homme, nommés par l'OMS. Il a noté que l'IA a un énorme potentiel pour aider à améliorer les soins de santé et la médecine dans le monde, mais seulement si les considérations éthiques et les droits de l'homme sont placés au centre de la conception, du développement et du déploiement.
« Comme toutes les nouvelles technologies, l'intelligence artificielle recèle un énorme potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme toutes les technologies, elle peut également être mal utilisée et causer des dommages », a déclaré le Dr Tedros Adhanom Ghebreyesus, directeur général de l'OMS. “Ce nouveau rapport important fournit un guide précieux aux pays sur la façon de maximiser les avantages de l'IA, tout en minimisant ses risques et en évitant ses pièges.”
Le rapport explique que l'IA pourrait potentiellement améliorer le diagnostic et les soins cliniques, en améliorant la recherche en santé et le développement de médicaments et en aidant au déploiement de différentes interventions de santé publique, telles que la surveillance des maladies, la riposte aux épidémies et la gestion des systèmes de santé.
Dans le même temps, l'utilisation d'outils basés sur l'IA pourrait aider les gouvernements à étendre les services de santé aux populations mal desservies, améliorer la surveillance de la santé publique et permettre aux prestataires de soins de mieux s'occuper des patients et de s'engager dans des soins complexes, selon le rapport mentionné.
Lire la suite : IA et éthique : le débat qui s'impose
Dans le cadre du rapport, l'OMS a développé six principes qui, elle l'espère, serviront de base aux gouvernements, aux développeurs de technologies, aux entreprises et aux organisations de la société civile lors du développement de l'IA pour la santé. Il s'agit notamment de permettre aux humains d'avoir une autonomie sur les systèmes de santé et les décisions médicales tout en garantissant la protection de la vie privée et de la confidentialité ; le bien-être et la sécurité des humains sont préservés ; s'assurer que la transparence est maintenue sur le développement, la conception et le déploiement de la technologie d'IA ; L'IA pour la santé est conçue pour encourager l'inclusion et l'équité ; Les applications d'IA sont réactives et durables ; et que les parties prenantes impliquées dans la conception, le développement et le déploiement des technologies d'IA maintiennent leur responsabilité et leur responsabilité.
À la fin de l'année dernière, le Forum économique mondial a publié un rapport qui détaillait comment les organisations pouvaient adopter une approche éthique pour concevoir la technologie et l'utiliser de manière responsable.
L'Éthique dès la conception – Une approche organisationnelle de l'utilisation responsable de la technologie décrit trois principes de conception qui peuvent être intégrés pour promouvoir un comportement éthique lorsqu'il s'agit de créer, de déployer et d'utiliser la technologie.
Ces principes comprenaient de prêter attention en temps opportun aux implications éthiques de la technologie en sensibilisant le public par le biais de formations et de canaux de communication internes, en développant des « nudges » organisationnels tels que des listes de contrôle et en utilisant des rappels de diligence raisonnable, et en intégrant la valeur et l'éthique dans la culture de l'entreprise.
Couverture connexe
Le rapport révèle un désintérêt surprenant pour l'utilisation éthique et responsable de l'IA parmi les chefs d'entrepriseDonnées, analyses, apprentissage automatique et IA dans les soins de santé en 2021Réglementation de l'IA fuite : ce que cela signifie pour les États-UnisLe problème avec l'IA : pourquoi nous avons besoin de nouvelles lois pour empêcher les algorithmes de ruiner notre liveCette startup veut corriger votre IA biaisée, un ensemble de données à la fois
Sujets connexes :
Intelligence artificielle CXO Transformation numérique Industrie technologique Villes intelligentes Cloud 