Intelligence artificielle (IA) et soins de santé : facteurs à considérer

On peut déployer des systèmes d’IA pour atteindre divers objectifs dans des contextes variés et pour rationaliser certaines tâches, ce qui peut permettre aux médecins de se consacrer à d’autres aspects de leur travail.

L’IA générative est intégrée à beaucoup d’autres outils, comme les dossiers médicaux électroniques (DMÉ). En comprenant bien le contexte dans lequel vous prévoyez utiliser l’IA, il vous sera plus facile de cerner les risques médico-légaux auxquels vous vous exposez en le faisant.

On peut se servir d’outils d’IA pour différentes raisons :

• Fins cliniques ou médicales
• Utilisations administratives et opérationnelles
• Transfert de connaissances
• Recherche et développement
  

Cacher la section

Quand on envisage de recourir à un outil ou un service basé sur l’IA, on doit prendre certains facteurs en considération :

• Comment on compte se servir de l’outil
• Son utilité et son côté pratique
• Son adaptation à notre pratique
• Les formations offertes à son sujet
• Son intégration à d’autres technologies utilisées actuellement
• Les risques en matière de responsabilité
• Son potentiel d’amélioration des soins

Cacher la section

En ce qui concerne la mise sur pied de cadres réglementaires exhaustifs pour préserver la protection des renseignements personnels et la sécurité des patient·es, la situation évolue.

La principale proposition déposée en ce sens par le gouvernement fédéral, la Loi sur l’intelligence artificielle et les données (LIAD), n’a jamais été adoptée et a été abandonnée en janvier 2025. Faute de cadre législatif général, l’utilisation de l’IA en soins de santé continue d’être régie par les lois, les lignes directrices et les règlements existants. Par exemple, dans les dernières années, Santé Canada s’est employée à réglementer l’IA en homologuant les logiciels à titre d’instruments médicaux (LIM). Cela dit, certains produits ne nécessitent pas d’homologation, comme ceux qui sont utilisés seulement à des fins administratives.

Mentionnons aussi que dans certaines provinces, quand une organisation a recours à une prise de décision automatisée, la loi sur la protection des renseignements personnels l’oblige maintenant à en aviser les gens. 

Plusieurs Collèges ont publié des recommandations préliminaires insistant sur la nécessité de prendre en considération des enjeux tels que l’obligation de rendre des comptes, la protection des renseignements personnels, la transparence, les biais et l’exactitude. N’hésitez pas à prendre connaissance des lignes directrices de votre Collège en ce qui concerne l’utilisation de l’IA dans votre pratique. 

Cacher la section

Les médecins sont invité·es à s’assurer du respect de la protection des renseignements personnels lorsqu’ils ou elles utilisent des outils d’IA. Quelles mesures de protection des renseignements personnels sont en place? Les renseignements sur les patient·es sont-ils utilisés uniquement dans la mesure où la prestation du service l’exige (et non à des fins secondaires comme l’entraînement des modèles ou l’amélioration des produits, par exemple)? On devrait aussi lire attentivement les conditions d’utilisation de l’outil et les politiques de protection des renseignements personnels qui s’y rattachent, en s’assurant qu’aucun changement ne peut être apporté à ces documents sans le consentement de la clientèle ou sans avis préalable.

Cacher la section

L’IA n’est pas exempte de biais. Ceux-ci peuvent être attribuables aux données d’entraînement, à l’algorithme utilisé et aux décisions humaines qui ont été prises au cours du développement de l’outil, notamment. Si les données d’entraînement comportent des biais – basés par exemple sur la race, le genre ou le statut socioéconomique – l’IA peut les intégrer et les perpétuer. Il est important de déterminer si l’outil convient à votre population de patient·es et s’il a été entraîné sur des données représentatives de cette population.  

Cacher la section

Une approbation réglementaire ou l’aval d’une organisation professionnelle ou d’un organisme de santé peut limiter les risques associés à l’IA en confirmant la sécurité et l’efficacité d’un outil.

Comme certains produits peuvent apprendre et changer au fil du temps, des lignes directrices et des mesures devraient être instaurées pour assurer une surveillance continue. 

Cacher la section

Les Collèges s’attendent à ce que les médecins obtiennent d’abord le consentement libre et éclairé de la personne soignée. Les risques et avantages de la technologie, la question des biais potentiels et les risques d’atteinte à la vie privée devraient notamment être abordés.

Si les renseignements peuvent être dépersonnalisés et utilisés pour améliorer l’algorithme de l’outil (c.-à-d. en amenant l’outil à apprendre au fil des consultations), la personne traitée devrait en être informée et la discussion, consignée au dossier.

Cacher la section

L’IA peut désormais seconder les médecins dans leur prise de décision clinique, en servant d’appui et de complément aux autres outils et renseignements pertinents et fiables qui sont à leur disposition. Du point de vue de la gestion des risques, il est important que les médecins continuent de faire preuve de jugement clinique même si des outils automatisés sont intégrés à leur prise de décision.

Le rythme auquel le changement se produit n’est pas sans défis pour les organismes de réglementation, les gens qui développent les outils d’IA et les prestataires de soins. Comme cette cadence pose des risques médico-légaux, il est important de suivre une approche prudente et pondérée en ce qui concerne l’adoption de l’IA.

Les membres de l’ACPM qui ont des questions sur l’utilisation de l’IA dans leur pratique ne doivent pas hésiter à joindre l’Association pour obtenir des conseils médico-légaux spécifiques à une situation clinique donnée

Cacher la section