Traduit avec DeepL
Notre médecine actuelle s’appuie entre autres sur des avancées majeures de la technologie médicale. Les professionnels de la santé peuvent voir à travers l'homme grâce aux scanners rayons X, mesurer l'activité électrique du cœur ou utiliser des implants qui soutiennent le corps humain de différentes manières. Actuellement, l'intelligence artificielle (IA, en anglais AI, Artificial Intelligence) promet de nouveaux progrès révolutionnaires dans de nombreux domaines de la médecine. Intégrée dans des dispositifs médicaux, elle devrait par exemple aider le médecin à détecter plus tôt une tumeur du sein potentiellement dangereuse. Dans ce contexte, des questions – qui étaient déjà considérées comme résolues – font à[1] ?
Depuis 2016, le nombre de dispositifs médicaux autorisés basés sur l'IA augmente fortement aux États-Unis, en premier lieu dans le domaine de l'imagerie médicale. Suivent, à une certaine distance, les dispositifs médicaux dans le domaine cardiovasculaire[2] . Contrairement à la réglementation américaine, la nouvelle législation européenne impose des exigences beaucoup plus élevées aux fabricants de dispositifs médicaux. Ce qui est souvent aperçu comme un obstacle, voire une entrave. En effet, dans l'Union européenne (UE), beaucoup moins de dispositifs médicaux utilisant l'IA (c'est-à-dire un très petit nombre) ont été mis sur le marché sous la nouvelle réglementation correspondante (EU MDR).
Le EU AI Act récemment adopté représente potentiellement un obstacle réglementaire supplémentaire pour les dispositifs médicaux basés sur l'IA. La question se pose donc de savoir quel est le niveau de réglementation nécessaire pour assurer la sécurité des dispositifs médicaux de manière efficace (c'est-à-dire en faveur des patient·e·s et pas seulement sur le papier[3]), sans mettre en danger leur utilité et en continuant à autoriser suffisamment d'innovations.
Parallèlement, des images futuristes de l'industrie cinématographique donnent le sentiment désagréable que des robots nous opéreront bientôt ou que des systèmes d'intelligence artificielle poseront un diagnostic que les médecins ne pourront plus comprendre. Les reportages des médias sur ce thème créent une sorte de “mythe d’IA” dans la société. C'est compréhensible, vu que peu de personnes comprennent suffisamment en profondeur ce que fait l'IA dans la technologie médicale. En raison de l'utilisation de réseaux neuronaux[4], l'IA est perçue comme une boîte noire dans laquelle on ne peut pas voir. Les résultats sont basés sur d'énormes quantités de données (mot-clé “big data”) et des processus de calcul complexes. C'est pourquoi la grande majorité ne peut guère comprendre ce qui s'y passe réellement, ni sur le plan technique ni mathématique.
Mais cette complexité des dispositifs médicaux basés sur l'IA est-elle vraiment un problème ? Jusqu'à présent, cette question ne s'est guère posée pour les dispositifs médicaux classiques. Existent-t-ils des médecins ou patient·e·s qui peuvent par exemple expliquer comment fonctionne un appareil d'imagerie par résonance magnétique (IRM) ? Une IRM est si complexe que presque personne ne peut en expliquer tous les aspects.
Pourtant, cet appareil de technologie médicale est volontièrement et souvent utilisé. Les professionnel·le·s de la santé font confiance aux fabricants (et donc aux ingénieurs qui ont développé et testé ces appareils), tout comme les patient·e·s font confiance aux médecins pour établir leur diagnostic. Et c'est une bonne chose, car l'expérience montre que la spécialisation professionnelle ainsi que l’approche centrée sur les bénéfices et basées sur les risques[5] ont fait leurs preuves dans des situations ou des systèmes complexes.
Pour illustrer le potentiel de l'IA en médecine, considérons le diagnostic médical. Imaginons que nous développions un thermomètre médical innovant. Si notre produit remplit un objectif médical, nous devons le déclarer comme produit médical (voir texte encadré). La détermination correcte si c'est le cas ou pas constitue déjà le premier défi. En effet, qu'est-ce que la fièvre et comment la diagnostiquer ? Un thermomètre corporel mesure – comme son nom l'indique – la température du corps à des endroits définis.
Comme l'évolution dans le temps (ce qu'on appelle les séries chronologiques) joue un rôle important, on ne mesure généralement pas une seule fois, mais plusieurs fois de suite. En fonction de l'évolution de la température, la médicine distingue différents types de fièvre, par exemple la fièvre continue, la fièvre récurrente, la fièvre intermittente ou la fièvre ondulante.
La fièvre est un signe d'une infection en cours - l'augmentation de la température est une réaction de défense naturelle de l'organisme. Chez les personnes atteintes de maladies cardiaques ou pulmonaires, une fièvre modérée peut être dangereuse en raison de l'augmentation de la fréquence cardiaque et respiratoire. Une fièvre extrêmement élevée (typiquement supérieure à 41° C) peut provoquer un dysfonctionnement, voire une défaillance d'organes. Chez les enfants, la fièvre peut provoquer des convulsions fébriles. Toutes les fièvres ne se sont donc pas identiques.
Si notre thermomètre pouvait traiter davantage d'informations que les thermomètres conventionnels – par exemple en analysant l'évolution de la température corporelle à travers le temps – il serait possible d'établir un diagnostic plus précis sur la base de ces informations et de prescrire un traitement plus ciblé. Dans de nombreux cas, on pourrait ainsi renoncer à la prise de médicaments à titre préventif.
Nous avons donc équipé notre thermomètre corporel innovant d'une IA qui lui permet d'analyser l'évolution de la température et de nous indiquer ce qu'il faut faire dans un cas concret. L'application pour smartphone correspondante permet d'enregistrer les médicaments pris, les symptômes et d'autres informations. Grâce à l'analyse anonyme des données, l'IA continue d'apprendre et peut, avec le temps, déduire des règles pour savoir quel traitement est optimal pour qui dans une situation donnée[6].
Tout comme les médecins rédigent des rapports sur l'évolution de la maladie, réalisent des études avec un nombre suffisant de sujets ou publient les résultats obtenus dans des journaux scientifiques et en déduisent des règles pour le système de santé.
Toutefois, si les données disponibles ne reflètent pas suffisamment la réalité, une telle IA peut en tirer des conclusions erronées. De même, une étude peut présenter un biais statistique ou un design d'étude insuffisant. Les règles peuvent toutefois être améliorées en permanence grâce au progrès continu et en conduisant des évaluations par des expert·e·s. Le système de santé en apprend et en profite, ce qui est finalement positif pour les patient·e·s. Tout comme cela a été le cas jusqu'à présent.
Depuis un certain temps, la tendance dans le domaine de la santé est de passer de l'avis individuel des experts à une médecine basée sur des preuves : les évaluations subjectives des professionnels sont de plus en plus remplacées par des décisions dont l'efficacité est étayée par des connaissances empiriques. Ces preuves sont typiquement générées par des études scientifiques. Ensuite, les connaissances peuvent être mises en œuvre dans le quotidien clinique. Cela garantit des soins de santé aussi actuels et innovants que possible. Dans l'industrie pharmaceutique, par exemple, il faut d'abord des études réussies avant qu'un médicament soit mis sur le marché. Les patient·e·s et les médecins font confiance aux résultats des études mentionnées et acceptent qu'ils aient un certain caractère de boîte noire.
Le développement de dispositifs médicaux basé sur l'IA se déroule de manière similaire : des données sont d'abord collectées, puis des règles sont déduites de ces données – à l'aide de l'apprentissage automatique (anglaise machine learning, ML) – et sont ensuite appliquées à de nouveaux cas individuels. Des méthodes de test appropriées permettent de vérifier ces règles. Dans les deux cas, les risques doivent être identifiés et atténués à un stade précoce. L'ordonnance sur les dispositifs médicaux (voir encadré) exige d'ores et déjà que les risques soient évalués de manière préventive et continue (donc également pour l'utilisation de l'IA dans les dispositifs médicaux). Dans ce contexte, les bénéfices doivent l'emporter sur les risques résiduels. Cette approche basée sur les risques est établie depuis longtemps dans l'industrie MedTech. Il devrait également être évident que le risque zéro n'existe qu'en théorie. C'est également le cas lors de la prise de médicaments autorisés – une substance correspondante a toujours un effet pharmacologique principal ainsi que des effets secondaires indésirables[7].
Contrairement à l'homme, l'IA et la ML peuvent trouver des relations complexes, normalement cachées à l'homme, de manière automatisée et sur la base de mathématiques supérieures. L'IA et la ML sont beaucoup plus rapides, plus efficaces et surtout reproductibles, un peu comme une calculatrice nous aide à effectuer des calculs complexes. Une fois entraînée et « gelée »[8] une IA produit toujours les mêmes résultats pour des entrées identiques, indépendamment du moment de la journée ou de l'humeur – ce qui n'est pas le cas des humains. Une IA ne se fatigue pas non plus. L'IA soutient et complète donc la médecine basée sur les preuves sous une forme à laquelle nous ne voulons pas renoncer à l'avenir.
Cela ne signifie toutefois pas que nous devons nous lancer sans réfléchir et sous le coup de l'émotion dans la MedTech basée sur l'IA, mais que nous devons utiliser judicieusement et avec discernement les méthodes actuellement disponibles afin de créer un rapport bénéfice/risque positive, ce qui est dans l'intérêt des patient·e·s. Une IA qui établit aujourd'hui un diagnostic A et demain, sans raison, un diagnostic B dans la même situation, ne peut pas être l'objectif. De même, la technique doit être au service de l'homme et non l'inverse. Cela s'appliquait jusqu'à présent aux dispositifs médicaux (au sens classique du terme) et doit continuer à s'appliquer à l'avenir (ce qui inclut les dispositifs médicaux basés sur l'IA). C'est donc à nous, les humains, de décider si l'IA sera une malédiction ou une bénédiction dans la technologie médicale – nous pouvons l'influencer, c'est entre nos mains.
[1] Dans cet article de blog, nous ne considérons, pour simplifier, que le domaine de la technologie médicale de diagnostic.
[2] www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices
[3] Voir Implant Files (https://www.bmj.com/content/363/bmj.k4997), qui a fait beaucoup moins de bruit que le scandale des implants mammaires (PIP) (https://de.wikipedia.org/wiki/Poly_Implant_Proth%C3%A8se ).
Remarque de l'auteur : il est aujourd'hui relativement facile de démontrer qu'une réglementation encore plus stricte que la directive européenne MDR ne peut pas empêcher de tels cas extrêmes. Une discussion à ce sujet dépasserait toutefois largement le cadre de ce blog.
[4] Il s'agit ici des "deep neural networks" (dNN).
[5] Il s'agit ici du rapport bénéfice-risque acceptable (voir gestion des risques en technologie médicale - www.iso.org/standard/72704.html).
[6] Ceci dans le sens d'une médecine personnalisée
[7] Dans le domaine de la technologie médicale, l'effet principal du médicament correspond à sa destination (en anglais intended purpose) et les effets secondaires au risque résiduel (en anglais residual risk) du dispositif médical.
[8] Anglais "Freezed Artificial Intelligence" (Intelligence artificielle gelée)
La Suisse définit les dispositifs médicaux dans l'Ordonnance sur les dispositifs médicaux
(ODim), qui est basée sur la Loi sur les produits thérapeutiques (LPTh), elle-même ancrée dans l'article 118 – la protection de la santé – de la Constitution fédérale. Cette définition s'inspire de la réglementation européenne (art.2 de la directive européenne sur les dispositifs médicaux) et présente également des recoupements importants avec la définition de l'autorité américaine de contrôle des médicaments (FDA).
Selon cette définition, un dispositif médical remplit un but médical. Un but médical peut être, par exemple, le diagnostic d'une maladie ou le traitement d'une blessure. En outre, cela inclut les produits destinés à la contraception ou à l'aide à la procréation, ainsi que les produits spécialement conçus pour le nettoyage, la désinfection ou la stérilisation de produits ayant un but médical, leurs accessoires et les produits spéciaux sans but médical, selon une liste séparée. L'ODim couvre donc une large palette de dispositifs médicaux très différents et de leurs accessoires : des produits simples comme un pansement adhésif, un lit d'hôpital ou un fauteuil roulant, mais aussi des produits très complexes comme une IRM ou des défibrillateurs.
Les articles de blog de cette série proposent un regard interdisciplinaire sur le développement actuel de l'IA dans une perspective technique et de sciences humaines. Ils sont le fruit d'un échange et d'une collaboration récurrents avec Thomas Probst, professeur émérite de droit et de technologie (UNIFR), ainsi que membre de la SATW Roger Abächerli, chargé de cours en technique médicale (HSLU). Avec ces contributions mensuelles, nous nous efforçons d'analyser de manière objective et neutre les questions essentielles qui se posent en rapport avec l'utilisation de systèmes d'IA dans différents domaines d'application. Notre objectif est d'expliquer certains aspects du thème de l'IA de manière compréhensible et professionnellement fondée, sans pour autant entrer dans des détails trop techniques.
