L’OMS publie un rapport mondial sur l’intelligence artificielle (IA) appliquée à la santé
Buzz e-santé
L’OMS publie le premier rapport mondial sur l’intelligence artificielle (IA) appliquée à la santé et six principes directeurs relatifs à sa conception et à son utilisation. Découverte.
Le recours croissant à l’IA dans le domaine de la santé présente des opportunités et des défis pour les gouvernements, les prestataires et les communautés. Selon de nouvelles orientations publiées par l’OMS, l’intelligence artificielle (IA) constitue un grand espoir pour améliorer la prestation des soins et la médecine dans le monde entier, mais à condition de placer l’éthique et les droits humains au cœur de sa conception, de son déploiement et de son utilisation.
L’OMS met à disposition un rapport consacré à l’éthique et à la gouvernance de l’intelligence artificielle dans le domaine de la santé (intitulé en anglais : Ethics and governance of artificial intelligence for health) qui est le résultat de deux années de consultations menées par un groupe d’experts internationaux.
« Comme toute nouvelle technologie, l’intelligence artificielle présente un immense potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme pour toute technologie, il peut aussi en être fait mauvais usage et elle peut entraîner des effets préjudiciables, a déclaré le Dr Tedros Adhanom Ghebreyesus, Directeur général de l’OMS. Ce nouveau rapport, d’une importance capitale, constitue un guide précieux pour les pays qui souhaitent maximiser les avantages de l’IA, tout en en minimisant les risques et en en évitant les pièges. »
L’intelligence artificielle peut servir, comme c’est déjà le cas dans certains pays riches, à améliorer la rapidité et la précision du diagnostic et du dépistage des maladies, à faciliter les soins cliniques, à renforcer la recherche dans le domaine de la santé et la mise au point de médicaments, ainsi qu’à soutenir diverses interventions de santé publique, comme la surveillance des maladies, la riposte aux flambées épidémiques et la gestion des systèmes de santé.
L’IA pourrait également permettre aux patients de mieux maîtriser les soins de santé dont ils bénéficient et de mieux comprendre l’évolution de leurs besoins. Elle pourrait faciliter l’accès aux services de santé dans les pays disposant de peu de ressources et dans les communautés rurales, où les patients peinent souvent à accéder aux agents de santé ou au personnel médical.
Ce nouveau rapport de l’OMS demande de ne pas surestimer les avantages de l’IA dans le domaine de la santé, en particulier lorsque cette technologie vient supplanter des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle.
Il souligne également que les opportunités sont liées à des défis et à des risques, notamment une collecte et une utilisation contraires à l’éthique de données relatives à la santé, les biais introduits dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l’environnement.
Par exemple, si les investissements privés et publics dans le développement et le déploiement de l’IA sont essentiels, l’utilisation non réglementée de cette technologie pourrait subordonner les droits et les intérêts des patients et des communautés aux puissants intérêts commerciaux des entreprises technologiques ou à ceux des gouvernements pour ce qui est de la surveillance et du contrôle social.
Le rapport souligne également que « les systèmes entraînés principalement à partir de données recueillies auprès d’individus vivant dans des pays à revenu élevé risquent de ne pas bien fonctionner pour les populations des pays à revenu faible ou intermédiaire« .
Les systèmes d’IA doivent donc être soigneusement conçus afin qu’ils tiennent compte de la diversité des contextes socio-économiques et de soins de santé. Ils doivent s’accompagner d’une formation aux compétences numériques, de la participation de la communauté et d’une sensibilisation, en particulier pour les millions d’agents de santé dont l’automatisation des rôles et des fonctions leur demandera d’acquérir des connaissances numériques ou de les perfectionner, et qui devront composer avec des machines susceptibles de remettre en question la prise de décision et l’autonomie des prestataires et des patients.
Pour l’organisation internationale, « guidés par les lois et obligations existantes en matière de droits humains, ainsi que par les nouvelles lois et politiques qui garantissent des principes éthiques, les gouvernements, les prestataires et les concepteurs doivent collaborer de sorte à tenir compte des problèmes d’éthique et de droits humains à chaque étape de la conception, du développement et du déploiement d’une technologie s’appuyant sur l’intelligence artificielle« .
Six principes érigés par l’OMS
Dans ce rapport, l’OMS propose 6 principes pour atténuer les risques et maximiser les opportunités intrinsèques à l’utilisation de l’IA dans le domaine de la santé :
Protéger l’autonomie de l’être humain. Dans le contexte des soins de santé, les individus doivent rester maîtres des systèmes de soins de santé et des décisions médicales, la vie privée et la confidentialité doivent être protégées et les patients doivent donner un consentement éclairé valide au moyen de cadres juridiques appropriés en matière de protection des données.
Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public. Les concepteurs de technologies d’IA doivent respecter les obligations réglementaires relatives à la sécurité, à la précision et à l’efficacité pour des utilisations ou des indications bien définies. Il faut pouvoir disposer de mesures de contrôle de la qualité dans la pratique et d’amélioration de la qualité dans l’utilisation de l’IA.
Garantir la transparence, la clarté et l’intelligibilité. La transparence exige que des informations suffisantes soient publiées ou documentées avant la conception ou le déploiement d’une technologie d’IA. Ces informations doivent être facilement accessibles et permettre une consultation et un débat publics constructifs sur la conception de la technologie et sur l’utilisation qui doit ou non en être faite.
Encourager la responsabilité et l’obligation de rendre des comptes. Même si les technologies d’IA permettent d’accomplir des tâches spécifiques, il incombe aux parties prenantes de veiller à ce qu’elles soient utilisées dans des conditions appropriées et par des personnes dûment formées. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.
Garantir l’inclusion et l’équité. L’inclusion suppose que l’IA appliquée à la santé soit conçue de manière à encourager l’utilisation et l’accès équitables les plus larges possibles, indépendamment de l’âge, du sexe, du genre, des revenus, de la race, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes relatifs aux droits humains.
Promouvoir une IA réactive et durable. Les concepteurs, les développeurs et les utilisateurs devraient évaluer de manière continue et transparente les applications de l’IA en situation réelle afin de s’assurer que cette technologie répond de manière adéquate et appropriée aux attentes et aux besoins. Les systèmes d’IA devraient également être conçus de sorte à réduire au minimum leurs conséquences environnementales et à accroître leur efficacité énergétique. Les gouvernements et les entreprises devraient anticiper les bouleversements qui seront occasionnés au niveau du travail, notamment la formation des agents de santé qui devront se familiariser avec l’utilisation des systèmes d’IA, et les pertes d’emploi que le recours à des systèmes automatisés est susceptible d’engendrer.
L’ensemble de ces principes serviront de base pour les travaux futurs de l’OMS en vue de garantir que le plein potentiel de l’IA en matière de soins de santé et de santé publique sera mis au service du bien de tous.