---

 

L’IA pourrait sauver de nombreuses vies, améliorer grandement le travail des professionnels de santé et permettre aux systèmes de santé d’être davantage centrés sur la personne 

L’IA peut nous aider à relever quelques-uns des principaux défis rencontrés dans le domaine de la santé, dont la pénurie de personnel, les menaces qui se profileront sur la santé publique, le vieillissement démographique et la complexification de la santé avec les pathologies chroniques multiples. Il faut impérativement tirer parti d’un nouvel outil aussi puissant, non sans chercher simultanément à atténuer les risques qu’il comporte. Une supervision et une solide gouvernance seront indispensables pour pouvoir se saisir rapidement des problèmes et des possibilités qui se feront jour.

La non-mise en pratique des principes présente un grave risque 

Si l’utilisation de l’IA dans le domaine de la santé comporte des risques importants, il est tout aussi risqué de ne pas prendre de dispositions en vue de mettre en pratique les principes dont il a été convenu. Il pourrait en effet s’ensuivre une aggravation des inégalités face au numérique et à la santé et des risques pour la vie privée, un ralentissement des progrès scientifiques et une érosion de la confiance du public. Des solutions d’IA sont aujourd’hui conçues, développées et mises en œuvre dans des structures de santé du monde entier, des ensembles de données réunis à l’échelon local servant à les entraîner et leurs résultats étant mis à la disposition de la population à ce même échelon. L’adoption de solutions sur mesure pour lesquelles aucun déploiement à grande échelle n’est envisageable ou envisagé risque de donner in fine un ensemble hétéroclite d’innovations dans le domaine de l’IA, créées et entretenues par des établissements de santé disposant de moyens importants et utilisées uniquement dans l’intérêt d’un public aisé. Des politiques, des données et des moyens techniques solides et coordonnés doivent être mis en place au préalable, aux plans tant national qu’international, pour tirer le meilleur parti de l’IA au service de l’humain et de l’équité. On trouvera dans la présente synthèse un inventaire des principaux atouts de l’IA pour l’état de santé des individus et de la population, une liste des risques à maîtriser lors de son déploiement dans le domaine de la santé, ainsi que des propositions de mesures concrètes, propres à faire advenir une IA qui soit respectueuse des droits de la personne humaine et qui soit bénéfique à la santé, à l’intérieur des frontières nationales comme au-delà de celles-ci. Ces mesures seront modelées sur un même ensemble de principes et de garde-fous. Les initiatives prises dernièrement dans l’Union européenne, aux États-Unis et à l’échelle mondiale confirment toutes la pertinence des Principes de l’OCDE sur l’intelligence artificielle, adoptés dès 2019.

L’IA sauve des vies, seconde le personnel de santé et apporte une valeur ajoutée 

L’IA sauve d’ores et déjà des vies et peut en sauver davantage. D’après certaines données factuelles, rien qu’en 2023, quelque 163 000 personnes seraient mortes, en Europe, des suites d’une erreur médicale. Dans 30 % des cas, les erreurs médicales sont dues à un défaut de communication. L’IA est le moyen idéal d’améliorer la communication en présentant à chacun une information adéquate, opportune et pertinente, éviter des erreurs et sauver des vies et améliorer les résultats sur le plan sanitaire. À cette promesse s’ajoute celle de pouvoir exploiter de grands volumes de données cliniques pour aider les prestataires à établir un diagnostic et choisir le traitement le plus approprié. Utilisée de manière sûre et adaptée, l’IA serait en mesure d’entraîner une croissance exponentielle de la médecine fondée sur des preuves, avec à la clé de meilleurs résultats en matière de santé et des soins davantage centrés sur la personne. Grâce à l’IA, les professionnels de santé pourraient avoir davantage de temps à consacrer aux soins.

L’IA accompagne les prestataires de soins dans l’exercice de leur profession et leur permet de passer auprès de leurs patients le temps qu’ils ne passent pas à mettre au propre des notes ou à s’occuper de tâches administratives. Jusqu’à 36 % de l’activité des services de santé et des services sociaux pourraient être automatisés grâce à son utilisation. Les gains de productivité ainsi réalisés réduirait le déficit de professionnels de santé, estimé à 3.5 millions de postes à l’horizon 2030 à l’échelle de l’OCDE. L’IA peut aider les soignants à intégrer des connaissances de haut niveau et à explorer les données de santé à la recherche de signaux critiques pour éviter que des patients ne passent entre les mailles du filet et améliorer l’observation des pratiques cliniques les plus avancées. Elle est à même d’accroître la qualité du travail, celle des interactions humaines et celle des résultats obtenus. L’IA peut aider à protéger l’infrastructure de santé numérique contre les menaces qui pèsent sur la sécurité de celle-ci.

Les cyberattaques dirigées contre des systèmes de santé se multiplient, et leur préjudice financier devrait atteindre 10 500 milliards USD en 2025. Leurs auteurs se servent de plus en plus souvent de l’IA pour trouver des failles de sécurité et les exploiter. Les systèmes de santé pourraient s’inspirer de ce qui est fait dans d’autres secteurs utilisant l’IA, afin de mieux déceler les menaces et prévenir ou contrecarrer les atteintes à leur infrastructure. Si son utilisation s’inscrit dans le cadre d’une collaboration, l’IA peut contribuer à faire grandir la confiance dans l’utilisation des outils numériques. L’IA peut aider à valoriser les 97 % de données de santé qui, à l’heure actuelle, ne sont pas utilisées pour éclairer la prise de décisions. La conception, le développement et la mise en œuvre des solutions d’IA appliquée à la santé sont favorisés par un accès aisé à des données de qualité et ces solutions devraient permettre une exploitation bien plus complète de l’information tout en garantissant l’existence de mesures de protection adéquates. Dans le domaine de la santé, l’IA a été utilisée pour déceler les premiers signes d’infection au COVID-19 et accélérer la mise au point de vaccins qui ont sauvé des millions de vies.

Utilisée de manière sûre et adaptée, l’IA serait en mesure d’entraîner une croissance exponentielle de la médecine fondée sur des preuves, avec à la clé de meilleurs résultats en matière de santé et des soins davantage centrés sur la personne

L’IA pourrait servir à faciliter la découverte de traitements contre les maladies rares, à améliorer la sécurité des systèmes de santé par la détection des profils pathologiques atypiques, à trouver des occasions propices à la prévention des maladies chroniques, ou à faire progresser la médecine personnalisée. Ces applications innovantes seront d’autant plus représentatives du public et d’autant plus suivies d’effet qu’il y aura une coopération entre les structures de santé, les régions et les pays. Les perspectives ouvertes par l’IA dans le domaine de la santé sont considérables et exigent que l’on agisse d’urgence pour lever les obstacles et atténuer les risques entrevus. Il s’agit de préparer le terrain, sur les plans de la réglementation, des données et des moyens techniques, au développement, à la mise en œuvre et au déploiement responsables et sûrs de solutions d’IA profitables à toute la société. Ce faisant, il convient de réduire autant que faire se peut les dommages qui pourraient être causés en lien avec la vie privée, la sécurité, les préjugés et la désinformation, tout en cherchant à apporter un résultat bénéfique à tout un chacun. Des initiatives et des stratégies volontaires doivent être mises en place pour obtenir des résultats positifs tout en introduisant des solutions robustes propres à garantir le respect des droits essentiels à la vie privée, à la non-discrimination et à la sécurité.

S’attaquer aux risques inhérents à l’IA dans le domaine de la santé 

Il existe des risques qu’il faut maîtriser correctement. Les risques associés à l’IA sont notamment le manque de fiabilité des résultats donnés par des algorithmes biaisés, l’utilisation de données de piètre qualité, le manque de transparence ou l’utilisation de la solution dans un contexte inadapté, la divulgation de données à caractère personnel, l’imposition de solutions ajoutant des contraintes supplémentaires à des professionnels de santé déjà surchargés de travail, l’absence d’attribution précise des responsabilités quant à la gestion de l’IA et de ses éventuels effets préjudiciables qui nuit à la matérialisation de retombées collectives et équitables. Ne pas intégrer l’IA comporte également des risques, comme celui d’accentuer la fracture numérique si les solutions fondées sur cette technique ne sont accessibles qu’à certaines franges du public ; l’épuisement des professionnels de santé écrasés par les contraintes administratives ; et l’incapacité de concrétiser et répandre les bienfaits promis par les progrès scientifiques dans le champ de la santé, pour ne citer que ceux-ci. Il n’est pas possible de supprimer complètement les risques. Les interventions dans le domaine de l’IA doivent être décidées en cherchant le meilleur moyen de supprimer ou d’atténuer les risques de préjudice à court, moyen et long termes.

La mise en œuvre et la supervision effectives de l’IA reposent sur un usage et une exploitation optimale des données et des moyens technologiques en parallèle à un apprentissage permanent et à une adaptation constante de la trajectoire à suivre si besoin est. D’où l’intérêt de principes stratégiques clairs en matière d’IA pour guider l’action des pouvoirs publics et l’action sur le terrain. Les Principes de l’OCDE sur l’IA ont été adoptés par l’ensemble des Membres de l’Organisation et sont repris dans les Principes du G20 sur l’IA. Ils permettent de poser un ensemble de garde-fous communs propres à faciliter le développement, le déploiement et l’entretien responsables et efficaces des solutions d’IA. Ces principes donnent la ligne à suivre pour mettre en œuvre des solutions d’IA conçues autour de l’humain et fixent les principales exigences à respecter pour que ces solutions soient déployées d’une manière qui suscite la confiance à leur égard et garantisse un maximum de retombées. Les principes sont un point de départ et doivent être mis en pratique à l’aide d’outils et de processus, de mesures et de mécanismes d’application appropriés.

Encore faut-il mettre les principes en pratique pour faire advenir une IA responsable dans le domaine de la santé. Par exemple, le principe Valeurs centrées sur l’humain et équité, dictait des mesures visant à associer les prestataires de santé et le public au développement de solutions d’IA et à garantir que ces solutions puissent être adoptées, utilisées et réutilisées/exploitées dans des conditions d’équité par d’autres parties s’il y a lieu. On éviterait ainsi de voir des solutions d’IA sur mesures être déployées dans des contextes cliniques pour lesquels elles n’ont pas été conçues – par le passé, les innovations technologiques ont davantage contribué à l’épuisement des prestataires de santé qu’à l’amélioration de l’état des patients.

L’introduction de solutions d’IA appliquées à la santé va faire évoluer les profils de métiers, avec pour conséquence que certaines fonctions pourraient devenir superflues ou exiger des compétences professionnelles sensiblement différentes d’aujourd’hui

L’adoption, l’utilisation et l’évolution de l’IA devraient être encadrées correctement au moyen de mesures adaptées et faire l’objet d’une reddition de comptes transparente 

Risque : sans supervision de leur mise en œuvre et de leur évolution, les solutions d’IA risquent, par leur conception, leur développement ou leur application, d’être préjudiciables aux patients et aux systèmes de santé, sans peut-être même porter à conséquence pour ceux qui en sont responsables. Qui plus est, les capacités de l’IA évoluant, il faut prévoir des mécanismes de supervision, de répression et de réparation pour prévenir les dommages dont l’IA pourrait être la cause et tirer parti des possibilités qu’elle offre. Lacunes : certains pays mettent en place des instances et des mécanismes de supervision de l’IA ; bien peu en revanche ont une stratégie spécifique à l’IA appliquée à la santé. Il s’ensuit que l’on ne sait pas très bien où en est l’adoption de l’IA dans les systèmes de santé, quels grands obstacles s’y opposent, quelles sont les retombées positives de l’IA sur le personnel de santé et l’état de santé, ni quels sont la fréquence et le volume des incidents dont elle est la cause. La gouvernance doit aller de pair avec des incitations financières afin de conforter les bases de l’IA sur les plans de la politique, des données et des moyens techniques. En outre, le public ne met pas la même confiance dans l’utilisation de l’IA dans le domaine de la santé avec à chaque extrême ceux qui pensent que l’IA peut accélérer la concrétisation des promesses de la médecine personnalisée et ceux qui refusent que les technologies d’IA interviennent en quoi que ce soit dans les soins de santé. D’aucuns s’alarment du perfectionnement de l’IA dans le secteur public et dans le secteur privé. Il est important de noter que, tout comme dans d’autres secteurs, l’on ne sait pas encore très bien qui serait tenu pour responsable dans l’hypothèse d’un préjudice causé par les solutions d’IA appliquée à la santé le développeur, l’organisme qui en a fait l’acquisition ou l’utilisateur. Sans certitudes sur ce plan, il est possible que la gravité des risques encourus par les personnes, les organisations et les entreprises pousse à l’inaction certaines des parties intéressées, sinon toutes.

Capacité du personnel de santé d’utiliser l’IA pour obtenir de meilleurs résultats de santé 

Risques : l’introduction de solutions d’IA appliquées à la santé va faire évoluer les profils de métiers, avec pour conséquence que certaines fonctions pourraient devenir superflues ou exiger des compétences professionnelles sensiblement différentes d’aujourd’hui. Dans l’ensemble, on estime que 27 % des emplois sont fortement menacés par l’automatisation. Ces emplois ne sont pas voués à disparaître, mais les tâches à accomplir seront très différentes. Toutefois, si la question avait de quoi préoccuper lors de l’introduction de l’IA dans le domaine de la santé, des études récentes ont été consacrées à l’utilisation de l’IA en tant qu’assistant capable d’améliorer la productivité des professionnels de santé. Ces études montrent que les humains qui travaillent avec l’IA surclassent aussi bien leurs semblables que les systèmes d’IA travaillant seuls. Lacunes : de nombreux professionnels de santé n’ont pas encore acquis les compétences nécessaires pour apprécier les gains de temps et d’efficacité que les outils d’IA peuvent procurer. De plus, comme ces professionnels ne sont pas toujours associés à la mise au point d’outils d’IA appliquée à la santé, les solutions adoptées peuvent alourdir une charge de travail déjà excessive et contribuer à l’épuisement des effectifs. Les professionnels de santé ont tendance à avoir une aversion au risque. L’introduction de l’IA doit s’adapter à eux, respecter leur intégrité et répondre à leurs préoccupations tout en encourageant l’adoption de nouvelles solutions et l’acquisition de nouvelles compétences.

Options stratégiques envisageables pour maximiser les bienfaits de l’IA et minimiser ses risques

• Améliorer la formation et le développement des capacités des professionnels de la santé et des informaticiens afin que l’utilisation de l’IA libère du temps qui pourra être consacré à des actes de soin de qualité.
• Développer des exigences pour que les professionnels de santé soient associés à la création des solutions d’IA, et ce à toutes les étapes de conception, développement, mise en œuvre, exploitation et évolution.
• Introduire des programmes visant à encourager l’adoption et l’utilisation responsable, dans le cadre de la pratique clinique, de solutions d’IA autorisées, et notamment à recommander instamment telle ou telle solution particulièrement valable.