■ Système de santé :
Concevoir des systèmes plus sécuritaires pour optimiser la prestation des soins
Intelligence artificielle (IA) et soins de santé : facteurs à considérer
Comment l’intelligence artificielle peut changer votre pratique
Publié : octobre 2024
6 minutes
Introduction
L’intelligence artificielle (IA) est un outil puissant qui pourrait bien transformer l’exercice de la médecine. Grosso modo, l’intelligence artificielle est un algorithme : elle prend des données, les traite et produit un résultat (output). On s’attend à ce que cette technologie ait un impact déterminant sur la prestation des soins cliniques.
Pour bien comprendre les exigences réglementaires, les répercussions et les risques de l’intelligence artificielle, et pour évaluer si elle vous convient ainsi qu’à votre pratique, il est fort utile de prendre en compte ses différentes utilisations.
L’intelligence artificielle regroupe un éventail de technologies aux applications diverses; ces technologies tentent de reproduire les facultés cognitives de l’humain, notamment celle d’apprendre.
Les algorithmes prédictifs, conçus pour exécuter des tâches précises, peuvent par exemple :
- fournir un score d’alerte précoce d’après des signes vitaux
- détecter des anomalies potentielles sur une tomodensitométrie
L’intelligence artificielle générative se base sur des données d’entrée (input) pour créer un nouveau « produit ». Elle peut notamment :
- générer une note SOAP à partir d’un enregistrement
- soutenir la formation médicale
Les grands modèles de langage (GML) constituent une avancée récente de l’intelligence artificielle générative, qui excelle dans l’exécution de tâches liées au langage. Les GML gèrent maintenant une multitude de données d’entrée autres que le texte, comme l’audio, la vidéo et les fichiers de données. Les GML peuvent :
- comprendre des contextes
- répondre à des questions
- résumer des textes
- produire du contenu
Conseils en matière de bonnes pratiques
On peut déployer des systèmes d’intelligence artificielle pour atteindre divers objectifs dans des contextes variés et pour rationaliser certaines tâches, ce qui peut permettre aux médecins de se consacrer à d’autres aspects de leur travail.
L’intelligence artificielle générative est intégrée à beaucoup d’autres outils, comme les dossiers médicaux électroniques (DMÉ). En comprenant bien le contexte dans lequel vous prévoyez utiliser l’intelligence artificielle, il sera plus facile de cerner les risques médico-légaux auxquels vous vous exposez en le faisant.
On peut se servir d’outils d’intelligence artificielle pour différentes raisons :
- fins cliniques ou médicales
- utilisations administratives et opérationnelles
- transfert de connaissances
- recherche et développement
Cacher la section
Quand on envisage de recourir à un outil ou un service basé sur l’intelligence artificielle, on doit prendre certains facteurs en considération :
- comment on compte se servir de l’outil
- son utilité et son côté pratique
- son adaptation à notre pratique
- les possibilités de formation
- son intégration à d’autres technologies utilisées actuellement
- les risques en matière de responsabilité
- son potentiel d’amélioration des soins
Cacher la section
En ce qui concerne la mise sur pied de cadres réglementaires exhaustifs pour préserver la protection des renseignements personnels et la sécurité des patientes et patients, la situation évolue.
La Loi sur l’intelligence artificielle et les données a été déposée au Parlement canadien. Si elle est adoptée, un cadre réglementaire applicable aux outils d’intelligence artificielle sera implanté. Au cours des dernières années, Santé Canada a entrepris de réglementer l’intelligence artificielle en homologuant les logiciels à titre d’instruments médicaux (LIM). Cela dit, certains produits ne nécessitent pas d’homologation, comme ceux qui sont utilisés seulement à des fins administratives.
Certains Collèges ont publié des recommandations préliminaires insistant sur la nécessité de prendre en considération des enjeux tels que l’obligation de rendre des comptes, la protection des renseignements personnels, la transparence et l’exactitude. N’hésitez pas à prendre connaissance des lignes directrices de votre Collège en ce qui concerne l’utilisation de l’intelligence artificielle dans votre pratique.
Cacher la section
Les médecins sont invités à s’assurer du respect de la protection des renseignements personnels lorsqu’ils utilisent des outils d’intelligence artificielle. Quelles mesures de protection des renseignements personnels sont en place? Le fournisseur va-t-il se servir des données sur les patientes et patients pour entraîner l’algorithme? On devrait aussi lire attentivement les conditions d’utilisation de l’outil et les politiques de protection des renseignements personnels qui s’y rattachent, en s’assurant qu’aucun changement ne puisse être apporté à ces documents sans le consentement de la clientèle ou sans avis préalable.
Cacher la section
L’intelligence artificielle n’est pas exempte de biais. Ceux-ci peuvent être attribuables aux données d’entraînement, à l’algorithme utilisé et aux décisions humaines qui ont été prises au cours du développement de l’outil, notamment. Si les données d’entraînement comportent des biais – basés par exemple sur la race, le genre ou le statut socioéconomique –, l’intelligence artificielle peut les intégrer et les perpétuer. Il est important de déterminer si l’outil convient à votre population de patientes et de patients et s’il a été entraîné sur des données représentatives de cette population.
Cacher la section
Une approbation réglementaire peut limiter les risques associés à l’intelligence artificielle en confirmant la sécurité et l’efficacité d’un outil.
Comme certains produits peuvent apprendre et changer au fil du temps, des lignes directrices et des mesures devraient être instaurées pour assurer une surveillance continue.
Cacher la section
Il est attendu des médecins qu’ils obtiennent d’abord le consentement libre et éclairé de la personne soignée. Les risques et avantages de la technologie, la question des biais potentiels et les risques d’atteinte à la vie privée devraient notamment être abordés.
Si les renseignements peuvent être dépersonnalisés et utilisés pour améliorer l’algorithme de l’outil (c.-à-d. en amenant l’outil à apprendre au fil des consultations), la personne traitée devrait en être informée et la discussion, consignée au dossier.
Cacher la section
L’intelligence artificielle peut seconder les médecins dans leur prise de décision clinique, en servant d’appui et de complément aux autres outils et renseignements pertinents et fiables qui sont à leur disposition. Du point de vue de la gestion des risques, il est important que les médecins continuent de faire preuve de jugement clinique même si des outils automatisés sont intégrés à leur prise de décisions.
Le rythme auquel le changement se produit n’est pas sans défis pour les organismes de réglementation, les gens qui développent les outils d’intelligence artificielle et les prestataires de soins. Comme cette cadence pose des risques médico-légaux, il est important de suivre une approche prudente et pondérée en ce qui concerne l’adoption de l’intelligence artificielle.
Les membres de l’ACPM qui ont des questions sur l’utilisation de l’intelligence artificielle dans leur pratique ne doivent pas hésiter à joindre l’Association pour obtenir des conseils médico-légaux spécifiques à une situation clinique donnée.
Cacher la section
Liste de vérification – Intelligence artificielle (IA) et soins de santé : facteurs à considérer
Reconnaître les risques et avantages de l’intelligence artificielle en soins de santé
Avez-vous :
- établi comment vous prévoyez utiliser l’intelligence artificielle dans votre pratique clinique?
- pris connaissance des lignes directrices de votre Collège ou tenu compte de la réglementation qui encadrent l’utilisation de l’intelligence artificielle?
- consulté la direction de votre hôpital ou de votre établissement, s’il y a lieu?
- déterminé dans quel but vous vous servirez de la technologie d’intelligence artificielle?
- confirmé que l’outil convient à votre pratique?
- pensé aux répercussions potentielles de l’outil sur les soins prodigués?
Cacher la section
Avez-vous :
- pris connaissance des modalités contractuelles et de la politique de protection des renseignements personnels du fournisseur?
- vérifié si vous disposez de mesures adéquates de protection des renseignements personnels, notamment dans les obligations contractuelles du fournisseur?
- établi où vont les données?
- demandé si les données seront conservées?
- évalué si le produit est conforme aux lois sur la protection des renseignements personnels?
- vérifié si le produit a reçu l’aval d’une organisation professionnelle ou d’un organisme de santé?
- lu les conditions d’utilisation?
- obtenu le consentement de la personne traitée?
- passé en revue les conditions de protection des renseignements personnels avec une ou un juriste?
Cacher la section
Avez-vous :
- déterminé si l’outil est adapté à votre patientèle?
- vérifié si le fournisseur a fourni l’information nécessaire, notamment sur :
- l’utilisation prévue du produit;
- son fonctionnement;
- ses limites?
- évalué si les données utilisées pour entraîner l’outil sont représentatives de votre patientèle?
Cacher la section
Avez-vous :
- vérifié si l’outil est efficace et sécuritaire et si les preuves données par le fournisseur ou les responsables du développement de l’outil sont convaincantes?
- déterminé si d’autres organisations ont approuvé l’outil?
- confirmé que des mesures de supervision sont en place (notamment en ce qui concerne la maintenance et les mises à jour régulières par le fournisseur ou les responsables du développement)?
- intégré à votre processus des mesures de vérification et de validation par l’humain?
Cacher la section
Avez-vous :
- obtenu le consentement explicite de la personne traitée (ou de celle qui prend les décisions en son nom)?
- consigné dans le dossier la discussion entourant le consentement?
Cacher la section
Ressources supplémentaires
Suggestion de lecture
CanMEDS : Communicateur,
Professionnel
AVIS : Les renseignements publiés dans le présent document sont destinés uniquement à des fins générales. Ils ne constituent pas des conseils professionnels spécifiques de nature médicale ou juridique, et n’ont pas pour objet d’établir une « norme de pratique » à l’intention des personnes exerçant une profession de la santé au Canada. L’emploi que vous faites des ressources éducatives de l’ACPM est visé par ce qui précède et l’avis de non-responsabilité de l’ACPM dans son intégralité, « Contrat d’utilisation de l’ACPM ».
