---

 

Le Conseil de l’Europe s’est donné pour objectif de protéger la dignité humaine ainsi que les libertés et les droits fondamentaux de la personne dans les domaines d’application de la biologie et de la médecine. Si les grandes avancées technologiques comme celles réalisées dans le domaine de l’intelligence artificielle sont à même de faire progresser la biomédecine et les soins de santé, leur impact et leur trajectoire de développement restent cependant incertains. La gouvernance de ces avancées technologiques ne se limite pas à faciliter leur application et à contenir les risques qu’elles posent, elle comprend aussi la façon de gérer leurs trajectoires de développement parfois irréversibles. Assurer une bonne gouvernance, c’est intégrer les droits humains dans les technologies d’IA appliquées à la biomédecine, ce qui suppose que les développements soient d’emblée axés sur la protection des droits fondamentaux. Par conséquent, il est nécessaire d’envisager des mécanismes de gouvernance qui tendent à guider le processus d’innovation d’une façon qui relie l’innovation et les technologies aux valeurs et aux objectifs sociaux. Dans le cadre de son Plan d’action stratégique sur les droits de l’Homme et les technologies en biomédecine 2020-2025, le Comité de bioéthique a mis en place un groupe de rédaction chargé d’élaborer un rapport sur les applications de l’IA en médecine et leur impact sur la relation médecin-patient, en particulier sur le rôle que jouent les professionnel·les de la santé pour que soient assurés le respect de l’autonomie et du droit à l’information de la patiente ou du patient, ainsi que le maintien de relations transparentes et de confiance avec elle ou avec lui, en tant qu’ éléments essentiels de la relation thérapeutique.

Assurer une bonne gouvernance, c’est intégrer les droits humains dans les technologies d’IA appliquées à la biomédecine, ce qui suppose que les développements soient d’emblée axés sur la protection des droits fondamentaux

Comprendre la relation « PATIENT·E-MÉDECIN » sous l’angle des systèmes d’IA 

La relation thérapeutique est un élément essentiel de la qualité des soins dispensés aux patient·es, que les systèmes d’IA sont susceptibles d’améliorer ou d’altérer. Force est de constater que ces systèmes sont déjà un outil essentiel de la médecine moderne. Des synergies devraient être recherchées entre les progrès des systèmes d’IA et les protections qu’ils offrent.

Tout d’abord, et c’est bien l’essentiel, la relation patient·e-médecin est une relation de confiance qui, elle-même, repose sur la fiabilité des normes et de l’éthique des professionnel·les de la santé quant à leur capacité à aider et à soutenir les personnes qui sont confrontées à la maladie. Cette relation est intrinsèquement humaine et peut prendre diverses formes, notons à cet égard que les systèmes d’IA ne posent pas de questions et n’entrent donc pas en conversation à moins d’y être invités. Il s’agit d’un type de relation très particulier, qui a toujours été convoité et qui a constamment évolué, passant d’un modèle paternaliste traditionnel aujourd’hui dépassé à un modèle délibératif plus souhaitable. Aussi, pour souligner le caractère de cette relation, qui met la patiente ou le patient au premier plan, le groupe de rédaction a décidé de ne plus parler de la relation « médecin-patient·e », mais de la relation « patient·e-médecin » dans la suite de ce rapport. Les systèmes d’IA sont susceptibles de bouleverser la relation « patient·e-médecin ».

D’un côté, l’expertise des médecins pourrait être remise en question, de l’autre, elle pourrait aussi être considérablement renforcée grâce à une aide à la décision hautement performante dans divers secteurs de la santé. En outre, les patient·es qui décident d’eux-mêmes ou d’elles-mêmes de consulter des systèmes d’IA pourraient avoir tendance à moins compter sur les conseils des professionnel·les de la santé, ce qui est source de problèmes : confiance placée au mauvais endroit, surestimation des performances technologiques, (in)justice testimoniale lorsqu’il s’agit de savoir à qui se fier dans la rencontre patient·e-médecin. Des efforts seront nécessaires pour préserver la relation « patient·e-médecin », à mesure que les systèmes d’IA seront intégrés dans les soins de santé. Les médecins et les patient·es seront dans l’obligation de coopérer pour soutenir l’importance de la collégialité des décisions et trouver des informations permettant d’expliquer comment et pourquoi les systèmes d’IA produisent tels ou tels résultats, afin d’assurer le respect des normes professionnelles et de préserver l’autonomie des patient·es.

À cette fin, il convient de mettre l’accent sur la fourniture d’informations sur la logique, la portée et les conséquences des recommandations formulées par les systèmes d’IA. L’investissement dans l’automatisation nécessitera de s’investir tout autant dans le soutien et la formation, les échanges avec le public et d’autres initiatives, pour que ce changement soit aussi transparent et compréhensible que possible. Il conviendra de mettre au premier plan la transparence des connaissances sur les systèmes d’IA, en particulier en ce qui concerne la place, l’objectif et le fonctionnement de ces systèmes dans le domaine de la santé. Des campagnes de communication permettent d’encourager l’adoption d’attitudes et de comportements sociaux adéquats, par exemple en expliquant comment utiliser les systèmes d’IA lors de l’accès aux services de santé et pendant leur l’utilisation, afin d’optimiser l’affectation des ressources sanitaires. Autre exemple, il conviendra aussi d’expliquer aux patient·es pourquoi leurs données de santé sont nécessaires à l’entraînement des systèmes d’IA et donc pourquoi elles doivent être transmises à différentes plateformes, afin de dissiper les inquiétudes concernant le respect de la vie privée et le secret médical.

La relation patient·e-médecin est une relation de confiance qui, elle-même, repose sur la fiabilité des normes et de l’éthique des professionnel·les de la santé quant à leur capacité à aider et à soutenir les personnes qui sont confrontées à la maladie. Cette relation est intrinsèquement humaine et peut prendre diverses formes, notons à cet égard que les systèmes d’IA ne posent pas de questions et n’entrent donc pas en conversation à moins d’y être invités

Qu’est ce que l’IA et pourquoi est-elle importante dans la relation « PATIENT·E-MEDECIN » ? 

Aux fins de la présente note, on considérera qu’un système d’IA doit intégrer simultanément au moins trois composantes : des données, du matériel informatique et du logiciel de calcul.

► Les données peuvent être collectées par des protocoles et des dispositifs très divers, comme des capteurs portables, des examens médicaux et des équipements cliniques. Les données sont exploitées par les systèmes d’IA à des fins d’apprentissage, de test, de validation et, éventuellement, de mise à niveau en continu et de vérification de la qualité de fonctionnement. Elles doivent être représentatives pour éviter les biais de collecte, et aussi diversifiées et hétérogènes ; le système d’IA doit connaître la précision et l’exactitude des données et en tenir compte. L’assurance qualité et la normalisation sont des aspects essentiels de l’exploitation correcte des données par les algorithmes des systèmes d’IA. La plupart des données recueillies et traitées par des dispositifs d’IA sont des données personnelles sensibles qui font l’objet d’une réglementation particulière. Elles doivent être anonymisées et/ou pseudonymisées pour éviter toute traçabilité et identification indues de la patiente ou du patient. La nécessité de protéger la vie privée des patient·es peut avoir des conséquences sur la disponibilité de données statistiquement diversifiées, hétérogènes et en quantité suffisante, ce qui est souvent considéré comme un obstacle à l’exploitation et au partage des données, et donc au développement des applications d’IA.

► Le matériel informatique est indispensable, car il permet de conserver les gros volumes de données nécessités par les systèmes d’IA. Les algorithmes s’exécutent sur des nœuds de calcul, dont les performances dépendent des tâches à accomplir: entraînement d’un modèle, utilisation d’un modèle entraîné, etc. Actuellement, parmi tous les types de matériels informatiques, les solutions hybrides d’informatique en nuage qui associent différents environnements de stockage et de calcul, par exemple en interne et à distance sont considérées comme l’un des meilleurs compromis entre accessibilité économique, extensibilité et exploitation partagée entre plusieurs centres cliniques . Les aspects les plus problématiques du déploiement des infrastructures informatiques dans le secteur de la santé sont la sécurité, la protection de la vie privée et la conformité.

► Les algorithmes de calcul sont capables d’effectuer des tâches que l’on associe généralement à l’intelligence humaine. La capacité des systèmes d’IA à imiter en partie cette intelligence est à la fois le principal défi de ces technologies et l’aspect le plus préoccupant de leurs applications. Les réseaux de neurones profonds sont l’une des sous-classes de systèmes d’IA les plus commentées et qui progressent le plus, en raison de leur structure intrinsèque en « boîte noire » et de leur capacité à apprendre tout en effectuant des calculs ; ils sont entraînés sur de grands jeux de données pour étalonner leurs millions ou milliards de paramètres internes, puis appliqués à de nouvelles données d’entrée, ce qui leur permet de repérer de nouvelles corrélations et de tirer de nouvelles conclusions. Dans le domaine des soins de santé, les systèmes d’IA sont d’importants vecteurs de progrès. Ils sont utilisés à tous les niveaux des soins, du diagnostic au pronostic, en passant par la prévention, les traitements y compris le triage et la réadaptation. En Europe, ces systèmes sont de plus en plus utilisés dans le domaine médical. Aux États-Unis, la Food and Drug Administration a autorisé ou approuvé plus de 950 algorithmes d’IA à des fins médicales. La grande majorité des systèmes d’IA sont développés dans le secteur de l’imagerie, mais d’autres domaines sont en train d’évoluer.

► Dans la pratique, les systèmes d’IA doivent être fiables, conviviaux et faciles à intégrer dans les processus de santé. Or certains systèmes nécessitent de gros investissements dans des infrastructures et des capacités de calcul et de stockage. Ces contraintes amènent à se demander s’il existe d’autres solutions, viables et d’un bon rapport coût-efficacité, que les systèmes d’IA. À cet égard, l’évaluation précoce des technologies de la santé appliquée aux systèmes d’IA est une approche intéressante. Les systèmes d’IA peuvent aider les médecins à établir des diagnostics et le personnel de santé à gérer les flux de travaux administratifs. Mais ils risquent aussi de désorganiser la répartition des tâches au sein des systèmes de santé. Ainsi, face aux résultats de plus en plus précis des systèmes d’IA, les radiologues pourraient être évincés ou remplacés par d’autres professionnel·les de la santé ou encore se sentir obligés d’utiliser ces systèmes comme des outils d’aide au diagnostic, peut-être pour avoir un avantage sur leurs concurrent·es, et ce malgré le risque d’erreur. En outre, les médecins auront besoin d’être conseillé·es en cas de découverte fortuite par un système d’IA, en particulier pour savoir si la patiente ou le patient doit en être informé et, le cas échéant, comment.

Impact de l’IA sur les droits humains dans la relation « Patient ·E-Médecin» 

L’article 5 de la Convention d’Oviedo dispose qu’«une intervention dans le domaine de la santé ne peut être effectuée qu’après que la personne concernée y a donné son consentement libre et éclairé. Cette personne reçoit préalablement une information adéquate quant au but et à la nature de l’intervention ainsi que quant à ses conséquences et ses risques. La personne concernée peut, à tout moment, librement retirer son consentement ». Le consentement renforce le processus de décision de la personne en parcours de soin en confrontant ses préférences personnelles à l’intervention médicale proposée. Les paragraphes 35 et 36 du Rapport explicatif de la Convention d’Oviedo apportent des précisions sur les exigences spécifiques en matière de consentement, notamment en ce qui concerne la qualité, l’étendue et la clarté des informations fournies :

“35. Le consentement du patient ne peut être libre et éclairé que s’il est donné à la suite d’une information objective du professionnel de la santé responsable, quant à la nature et aux conséquences possibles de l’intervention envisagée ou de ses alternatives et en l’absence de toute pression de la part d’autrui. […] Les patients doivent être renseignés en particulier sur les améliorations qui peuvent résulter du traitement, sur les risques qu’il comporte, nature et degré de probabilité, ainsi que sur son coût. S’agissant des risques de l’intervention ou de ses alternatives, l’information devrait porter non seulement sur les risques inhérents au type d’intervention envisagé, mais également sur les risques qui sont propres aux caractéristiques individuelles de chaque personne, telles que l’âge ou l’existence d’autres pathologies. Il doit être répondu de manière adéquate aux demandes d’information complémentaire formulées par les patients.

Les systèmes d’IA peuvent aider les médecins à établir des diagnostics et le personnel de santé à gérer les flux de travaux administratifs. Mais ils risquent aussi de désorganiser la répartition des tâches au sein des systèmes de santé

“36. En outre, cette information doit être formulée dans un langage compréhensible par la personne qui va subir l’intervention. Le patient doit être à même de mesurer, par un langage qui soit à sa portée, l’objectif et les modalités de l’intervention au regard de sa nécessité ou de sa simple utilité mises en parallèle avec les risques encourus et les incommodités ou souffrances provoquées.”

Cependant, l’autonomie ne se limite pas au consentement. Elle confère aux patient·es un rôle plus actif dans la prise de décision partagée, un rôle qui ne se limite pas au fait d’être informé·es et d’accepter les options qui leur sont présentées. Elle englobe, par exemple, le choix de prendre des mesures préventives, de demander un deuxième avis et d’exercer le « droit de ne pas savoir » visé au paragraphe 67 du Rapport explicatif de la Convention d’Oviedo, voir ci-dessous. Plus important encore, l’autonomie est la capacité qu’ont les patient·es d’introduire leurs propres valeurs, préférences et points de vue dans les échanges patient·e-médecin.

“67. Parallèlement au droit de savoir, la deuxième phrase du deuxième paragraphe énonce un « droit de ne pas savoir ». Pour des raisons qui lui appartiennent, un patient peut souhaiter ne pas connaître certains éléments relatifs à sa santé. Une telle volonté doit être respectée. L’exercice par le patient de son droit à ne pas connaître telle ou telle information sur sa santé n’est pas considéré comme un obstacle à la validité de son consentement à une intervention ; ainsi, il pourra valablement consentir à l’ablation d’un kyste même s’il a souhaité ne pas en connaître la nature.”

Dans le cadre de la recherche, l’autonomie du patient en termes de consentement aux interventions diagnostiques et thérapeutiques telles que décrites ci-dessus est différente du consentement du patient ou de l’individu en bonne santé à être un sujet de recherche. Toutes les personnes concernées doivent prendre en compte les « logiques » différentes du traitement axé sur les besoins du patient et de la recherche  axée principalement sur la production de connaissances dans l’intérêt des futurs patients. En matière de consentement éclairé, les exigences éthiques et juridiques sont généralement plus élevées dans le cadre de la recherche que dans le cadre thérapeutique, notamment parce qu’il n’est pas toujours possible pour les participants à l’étude de tirer profit de leur participation. En particulier dans la recherche à usage intensif de données, par exemple pour développer des systèmes d’aide à la décision médicale, la frontière entre soins cliniques et recherche médicale tend à s’estomper, d’où la nécessité d’établir de nouveaux cadres juridiques et éthiques pour s’assurer que le ou la patient·e donne un consentement éclairé, dans ces situations, on a souvent recours à des modèles de consentement évolutif. En outre, de plus en plus de recherches se faisant en ligne, obtenir un consentement éclairé soulève des difficultés supplémentaires.

Défis

Certain·es patient·es peuvent avoir des difficultés à comprendre ce que sont les systèmes d’IA, pourquoi on y a recours et comment on les utilise dans la réalisation de leurs soins. Certain·es feront valoir que les médecins ont toute latitude pour décider d’informer ou non leurs patient·es de l’utilisation d’un tel système. Il n’en reste pas moins que la patiente ou le patient devrait pouvoir obtenir des informations et des explications pour donner son consentement avant un acte médical. L’introduction de systèmes d’IA dans la pratique médicale est susceptible de bouleverser la relation « patient·e-médecin » et d’entraîner toujours plus de frustration, car il peut devenir impossible pour les patient·es de refuser de consentir à l’utilisation de systèmes d’IA dans le cadre de leur traitement ou de leur prise en charge, si d’autres options qui ne font pas appel aux systèmes d’IA ne sont pas facilement disponibles, ou si le médecin, ayant transféré la responsabilité de certaines fonctions à un système d’IA, est incapable de dispenser des soins sans utiliser ce système.