Sécurité des soins

Amélioration de la sécurité des patients et réduction des risques

L’IA peut-elle contribuer aux décisions cliniques? Regard sur ses avantages et ses risques en médecine

Publié initialement en septembre 2019
19-16-F

Cet article est adapté de « A Primer on Law, Risk and AI in Health Care », publié dans Healthcare and Life Sciences Law Committee Update (vol. 3, n1, sept  2018) et reproduit avec la permission de l’International Bar Association, Londres, R.-U. © International Bar Association.

Imaginez pouvoir utiliser votre téléphone mobile pour balayer le corps de vos patients et ainsi obtenir un diagnostic sur-le-champ, comme s’il s’agissait du tricordeur utilisé dans Patrouille du cosmos... ou encore vous fier à un médecin-robot pouvant effectuer des interventions sans l’aide d’êtres humains... Bien que ces innovations semblent encore relever de la science-fiction, les percées technologiques qui transforment actuellement le secteur de la santé (dont l’intelligence artificielle [IA], la robotique et les mégadonnées) sont sur le point de révolutionner les soins aux patients.

Alors que les conseils pratiques sur l’utilisation de l’IA en santé restent rares,1 les médecins devraient déjà chercher à comprendre les avantages et les défis possibles de l’IA dans le domaine des soins, ainsi que les risques médico-légaux associés à cette technologie.

Qu’est-ce que l’intelligence artificielle?

De façon générale, l’IA peut être définie comme la capacité d’une machine ou d’un ordinateur à reproduire les facultés cognitives de l’intelligence humaine et à acquérir de nouvelles données.2 L’« apprentissage automatique » permet aux ordinateurs de gagner en expérience sans être programmés pour le faire. Parmi les applications courantes de l’apprentissage automatique, on trouve la reconnaissance des images et de la parole. L’« apprentissage profond » met en jeu le traitement de l’information et les modes d’apprentissage qui peuvent être liés à l’analyse des mégadonnées.2

Occasions et défis

Avec le temps, on s’attend à ce que l’IA améliore les soins de santé et transforme la façon dont ceux-ci sont prodigués.3 Cette technologie, conjointement avec d’autres outils, fait par exemple l’objet de recherches pour établir son potentiel d’accroître la précision diagnostique, d’améliorer la planification du traitement et de prévoir les résultats pour la santé.4 L’IA s’est avérée particulièrement prometteuse pour des applications cliniques dans les domaines reposant largement sur l’imagerie, dont la radiologie, la pathologie, l’ophtalmologie, la dermatologie et la chirurgie guidée par imagerie.3 Quoi qu’il en soit, les données probantes sur l’efficacité et la fiabilité des applications pratiques de l’IA continuent d’être limitées. Malgré l’attention dont bénéficie l’IA, il n’en demeure pas moins que bon nombre des modalités de cette technologie n’ont pas encore été suffisamment élaborées pour que l’on puisse établir si elles pourront répondre aux attentes. Par exemple, les modèles de prévision du suicide se sont largement avérés inefficaces à ce jour.5

Parmi les autres défis que présente l’IA, notons notre incapacité à en expliquer les processus de raisonnement, ce que l’on appelle l’« effet boîte noire ».6 L’utilité de l’IA dans les soins aux patients peut être limitée dans certaines situations, lorsque le diagnostic obtenu avec l’assistance de l’IA ne révèle aucune information permettant d’en vérifier la fiabilité. Certaines modalités de l’IA peuvent également être biaisées par l’ensemble de données qu’elles utilisent pour « apprendre ». Par exemple, un ensemble de données qui exclut fortuitement des patients présentant des problèmes, caractéristiques ou antécédents particuliers pourrait ne pas être fiable pour des segments plus larges de la population.6

Approche mesurée envers l’IA

Si vous envisagez d’utiliser l’IA de façon générale dans votre pratique, il est important de vous familiariser avec son fonctionnement et les situations dans le cadre desquelles elle pourrait être utile, et de le faire en fonction des circonstances de chaque patient.

Bien que la réglementation de l’IA reste encore à venir, certains organismes de réglementation de la médecine (Collèges) et certaines associations ou fédérations professionnelles ont établi des lignes directrices intérimaires. Par exemple, le Collège des médecins et chirurgiens de la Colombie-Britannique suggère d’utiliser un système de notation pour évaluer la qualité des applications (ou applis) qui font appel à l’IA.7 Ce Collège propose l’utilisation de l’App Evaluation Model élaboré par l’American Psychiatric Association,8 soit une évaluation en cinq étapes du modèle d’affaires d’une appli : conflits d’intérêts publicitaires, protection des renseignements personnels et sécurité, base de données probantes éclairant l’algorithme, convivialité et interopérabilité.

Les Principes directeurs pour les médecins qui recommandent à leurs patients des applications mobiles sur la santé de l’Association médicale canadienne9 peuvent également constituer une ressource utile. La technologie fondée sur l’IA doit servir à améliorer les soins au patient et à compléter la relation médecin-patient. Les médecins qui l’utilisent doivent garder à l’esprit leurs obligations légales et professionnelles, et discuter avec le patient de la pertinence du recours à cette technologie et des risques en matière d’atteinte à la vie privée qui lui sont associés. L’AMC suggère également d’établir s’il existe des données probantes soutenant la sécurité et l’efficacité de l’application, et de déterminer si celle-ci est approuvée par une organisation professionnelle, est conviviale et assure un niveau élevé de sécurité.

Le fait qu’une technologie fondée sur l’IA ait reçu l’aval d’une organisation professionnelle ou de réglementation digne de confiance est un facteur à considérer pour déterminer si vous respectez vos obligations professionnelles et légales, mais vous devez tout de même vous assurer de la pertinence de cette technologie en pratique clinique et obtenir des conseils à ce sujet. Vous pouvez commencer par les questions suivantes : Quelles en sont les modalités d’utilisation? La précision, la conformité et la fiabilité offertes par cette technologie ont-elles fait l’objet d’une évaluation rigoureuse? Y a-t-il des mesures de sauvegarde et de protection des renseignements personnels adéquates (p. ex. consentement du patient, chiffrement, protection par mot de passe)?

Complément au jugement clinique

L’IA offre des renseignements et des recommandations fondées sur le regroupement d’une vaste gamme de sources de données. Quoi qu’il en soit, les médecins doivent toujours s’en remettre à leur jugement clinique lorsqu’ils prennent une décision finale quant aux soins à prodiguer. Un sondage de l’AMC a constaté que « six Canadiens sur dix s’enthousiasment du potentiel de l’IA pour les soins de santé, mais pensent que seuls les diagnostics posés par des médecins sont fiables ».10

Avant d’utiliser une technologie fondée sur l’IA dans votre pratique médicale, il est important d’examiner les constatations, les recommandations ou les diagnostics suggérés par cet outil. Bien que l’IA puisse vous fournir des renseignements à prendre en considération, il faut vous assurer que les soins prodigués au patient reflètent vos recommandations fondées sur des données probantes objectives et un jugement clinique rigoureux.

La plupart des applications fondées sur l’IA sont conçues à titre d’aides cliniques pour soutenir au besoin d’autres données et outils cliniques pertinents et fiables. Tant pour l’instant que dans un avenir prévisible, l’IA ne peut se substituer à l’expérience clinique du médecin et à son analyse réfléchie de l’état du patient.

En bref

  • Déterminez si l’utilisation de l’outil fondé sur l’IA est pertinente en fonction des circonstances de chaque patient.
  • Évaluez d’un œil critique si la technologie fondée sur l’IA est adaptée à l’utilisation que vous comptez en faire et à la nature de votre pratique. Tenez compte de la qualité, de l’efficacité et de la fonctionnalité de la technologie; de la robustesse de la base de données; de la fiabilité des données probantes médicales éclairant l’algorithme; des exigences en matière de protection des renseignements personnels et de confidentialité; et des politiques ou des lignes directrices applicables de votre Collège ou de votre établissement de santé.
  • La technologie fondée sur l’IA a actuellement pour objectif de soutenir les soins cliniques en éclairant votre processus décisionnel. Continuez de vous fier à votre jugement professionnel pour la prise de décisions cliniques et la formulation de recommandations soutenues par la technologie fondée sur l’IA, conformément à la norme de pratique attendue.

 


 

Références

  1. Crolla D, Lapner M. A primer on law, risk and AI in healthcare. Healthcare and Life Sciences Law Committee Update. 2018 Sept;3(1).
  2. Pinnington D. Artificial Intelligence: What is AI and will it really replace lawyers? Lawyers’ Professional Indemnity Company (LawPRO) [En ligne]. 2018; 17(1). Disponible : https://www.practicepro.ca/2018/01/artificial-intelligence-what-is-ai-and-will-it-really-replace-lawyers/
  3. Naylor D. On the Prospects for a (Deep) Learning Health Care System. JAMA. 2018;320(11):1099-1100. doi:10.1001/jama.2018.11103. Voir également : Gouvernement du Canada, Comité sénatorial permanent des affaires sociales, des sciences et de la technologie [En ligne]. Ottawa (CA): Sénat; 2017. Défi en vue : Intégrer les technologies de la robotique, de l’intelligence artificielle et de l’impression en 3D dans les systèmes canadiens de soins de santé. Oct. 2017. Disponible : http://publications.gc.ca/collections/collection_2017/sen/yc17-0/YC17-0-421-18-fra.pdf
  4. Macrae C. Governing the safety of artificial intelligence in healthcare. BMJ Qual Saf. 2019;28(6):495-498. doi:10.1136/bmjqs-2019-009484
  5. Belsher BE, Smolenski DJ. Pruitt LD, et al. Prediction Models for Suicide Attempts and Deaths: A Systematic Review and Simulation. JAMA Psychiatry. 2019 March 13. doi:10.1001/jamapsychiatry.2019.0174
  6. Challen R, Denny J, Pitt M, et al. Artificial intelligence, bias and clinical safety. BMJ Qual Saf. 2019;28(3):231-37. doi:10.1136/bmjqs-2018-008370
  7. College of Physicians and Surgeons of British Columbia [En ligne]. Vancouver (CA): CPSBC; 2018. Prescribing apps – the challenge of choice. College Connector. 2018 Nov/Dec;6(6). Disponible : https://www.cpsbc.ca/for-physicians/college-connector/2018-V06-06/10
  8. American Psychiatric Association [En ligne]. Washington (DC): APA. App Evaluation Model. [cité en mai 2019]. Disponible : https://www.psychiatry.org/psychiatrists/practice/mental-health-apps/app-evaluation-model
  9. Association médicale canadienne [En ligne]. Ottawa (CA): AMC; 2015. Principes directeurs pour les médecins qui recommandent à leurs patients des applications mobiles sur la santé. Politique de l’AMC, 2015. Disponible : https://policybase.cma.ca/fr/viewer?file=%2fdocuments%2fPolicypdf%2fPD15-13f.pdf#phrase=false
  10. Association médicale canadienne [En ligne]. Ottawa (CA): AMC; 2018. Le système de santé doit être adapté aux exigences de la génération Google. 1er août 2018 [cité le 17 mai 2019]. Disponible : https://www.cma.ca/fr/le-systeme-de-sante-doit-etre-adapte-aux-exigences-de-la-generation-google

AVIS DE NON-RESPONSABILITÉ : Les renseignements publiés dans le présent document sont destinés uniquement à des fins éducatives. Ils ne constituent pas des conseils professionnels spécifiques de nature médicale ou juridique et n'ont pas pour objet d'établir une « norme de diligence » à l'intention des professionnels des soins de santé canadiens. L'emploi des ressources éducatives de l'ACPM est sujet à ce qui précède et à la totalité du Contrat d'utilisation de l'ACPM.