Aktuell verspricht die künstliche Intelligenz (KI, engl. AI für Artificial Intelligence) weitere bahnbrechende Fortschritte in vielen Bereichen der Medizin. Integriert in Medizinprodukte soll sie den Arzt zum Beispiel bei der früheren Erkennung eines potenziell gefährlichen Brusttumors unterstützen. Dabei werden Fragen – die bereits als gelöst erachtet wurden – wieder intensiv und auf breiterer Front diskutiert. Wer trägt die Verantwortung, falls eine KI einen bösartigen Tumor nicht erkennt (d.h. eine falsch negative Diagnose stellt) oder eine harmlose Abnormalität fälschlicherweise als gefährlich klassifiziert (falsch positive Diagnose)[1]?
Seit 2016 steigt die Anzahl der KI-basierten zugelassenen Medizinprodukte primär im Bereich der medizinischen Bildgebung in den USA stark an. An zweiter Stelle folgen mit einigem Abstand Medizinprodukte aus dem kardiovaskulären Bereich[2]. Im Unterschied zur Regulierung in den USA, stellen die neuen europäischen Gesetze viel höhere Anforderungen an die Hersteller von Medizinprodukten. Dies wird oftmals als Hürde oder sogar Hindernis empfunden. Effektiv sind in der Europäischen Union (EU) bisher weit weniger (d.h. nur eine sehr geringe Anzahl) Medizinprodukte, welche AI nutzen, unter der entsprechenden, neuen Regulierung (EU MDR) auf den Markt gebracht worden.
Der kürzlich verabschiedete EU AI Act stellt potenziell eine zusätzliche regulatorische Hürde für KI-basierte Medizinprodukte dar. Daher stellt sich die Frage, wie viel Regulierung notwendig ist, um die Sicherheit von Medizinprodukten effektiv (d.h. zugunsten der Patient:innen[3]) zu sichern, ohne deren Nutzen zu gefährden und weiterhin genügend Innovationen zuzulassen.
Parallel dazu sorgen futuristische Bilder der Filmindustrie für das unwohle Gefühl, dass uns bald Roboter operieren oder KI-Systeme eine Diagnose stellen, die Ärzt:innen nicht mehr nachvollziehen können. Medienberichte über das Thema bauen in der Gesellschaft eine Art «KI-Mythos» auf. Verständlicherweise – denn nur wenige verstehen in genügender Tiefe, was KI in der Medizintechnik macht. Durch den Einsatz von neuronalen Netzwerken[4] wird die KI wie eine Black-Box wahrgenommen, in die man nicht hineinsehen kann. Die Resultate basieren auf riesigen Datenmengen (Schlagwort Big Data) und komplexen Rechenvorgängen. Daher lässt sich für eine grosse Mehrheit kaum nachvollziehen, was darin im eigentlichen Sinne als auch technisch respektiv mathematisch passiert.
Doch ist diese Komplexität von KI-basierten Medizinprodukten tatsächlich ein Problem? Bei klassischen Medizinprodukten stellt sich diese Frage bisher kaum. Welche Ärztin, welcher Arzt oder welche Patientin, welcher Patient kann zum Beispiel erklären, wie ein Magnetresonanztomograph (MRT) funktioniert? Ein MRT ist so komplex, dass es kaum ein Mensch in all seinen Aspekten erklären kann.
Dennoch wird dieses Medizintechnik-Gerät gerne und oft eingesetzt. Gesundheitsfachpersonen vertrauen den Herstellern (und damit den Ingenieur:innen, welche diese Geräte entwickelt und getestet haben) genauso wie Patient:innen den Ärzt:innen bei deren Diagnose-Erstellung vertrauen. Und das ist gut so; denn die Erfahrung zeigt, dass sich bei komplexen Sachverhalten oder Systemen die fachliche Spezialisierung sowie der nutzenzentrierte und risikobasierte Ansatz[5] bewährt hat.
Um das Potential von KI in der Medizin zu veranschaulichen, betrachten wir die medizinische Diagnostik. Stellen wir uns vor, wir entwickeln ein innovatives Fieberthermometer. Wenn unser Produkt einen medizinischen Zweck erfüllt, müssen wir es als Medizinprodukt deklarieren (siehe Kasten). Korrekt zu beurteilen, ob dies der Fall ist, stellt bereits die erste Herausforderung dar. Denn: Was ist Fieber eigentlich und wie wird es diagnostiziert? Ein Körpertemperatur-Thermometer misst – wie der Name schon sagt – die Temperatur des Körpers an definierten Stellen. Da der zeitliche Verlauf (sogenannte Zeitreihen) eine wichtige Rolle spielt, misst man in der Regel nicht nur ein- sondern mehrmals hintereinander. Je nach Temperaturverlauf unterscheiden die Medizin unterschiedliches Fieber – beispielsweise kontinuierliches, remittierendes, intermittierend rekurrierendes oder undulierendes Fieber.
Fieber ist ein Zeichen einer laufenden Infektion – die erhöhte Temperatur eine natürliche Abwehrreaktion des Körpers. Bei Herz- und Lungenkranken kann mittelschweres Fieber wegen der erhöhten Herz- und Atemfrequenz gefährlich werden. Extrem hohes Fieber (typischerweise über 41° C) kann eine Fehlfunktion oder sogar Versagen von Organen verursachen. Fieber kann bei Kindern Fieberkrämpfe provozieren. Fieber ist also nicht gleich Fieber. Wenn unser Fieberthermometer mehr Informationen als konventionelle Modelle verarbeiten kann – beispielsweise den zeitlichen Verlauf der Körpertemperatur analysiert – könnten basierend darauf genauere Diagnosen erstellt und gezieltere Therapien verordnet werden. In vielen Fällen könnte man konsequenterweise wohl auf die präventive Einnahme von Medikamenten verzichten.
Wir statten unser innovatives Körperthermometer daher mit KI aus, dank derer es den Verlauf der Körpertemperatur analysieren und uns mitteilen kann, was in einem konkreten Falle zu tun ist. In der dazugehörigen Smartphone App können eingenommene Medikamente, Symptome und weitere Informationen erfasst werden. Durch anonyme Auswertung der Daten lernt die KI weiter dazu und kann mit der Zeit Regeln ableiten, für wen welche Therapie in einer bestimmten Situation optimal ist[6].
Genauso, wie Ärzte Rapporte über Krankheitsverläufe schreiben, Studien mit genügend grossen Probandenzahl durchführen, die erhaltenen Resultate öffentlich publizieren und daraus Regeln für das Gesundheitssystem ableiten. Jedoch: Bilden die vorhandenen Daten die Realität ungenügend ab, kann eine solche KI daraus falsche Folgerungen ableiten. Ebenso kann eine Studie einen statistischen Bias (Ungleichgewicht, Voreingenommenheit) oder ein unzureichendes Studiendesign aufweisen. Über den kontinuierlichen Fortschritt und Expertenreviews lassen sich die Regeln jedoch fortlaufend verbessern. Das Gesundheitssystem lernt und profitiert davon, was schlussendlich den Patienten zugutekommt. Genauso, wie das bisher der Fall war.
Der Trend in der Gesundheit geht seit geraumer Zeit von der individuellen Meinung von Expert:innen zur evidenzbasierten Medizin: Subjektive Einschätzungen von Fachpersonen werden zunehmend durch Entscheidungen ersetzt, deren Wirksamkeit auf Erfahrungswissen abstützt. Diese Evidenz wird typischerweise mittels wissenschaftlicher Studien generiert. Anschliessend kann das Wissen im klinischen Alltag umgesetzt werden. Das garantiert eine möglichst aktuelle und innovative Gesundheitsversorgung. So braucht es z. B. in der Pharmaindustrie zuerst erfolgreiche Studien, bevor ein Medikament auf den Markt kommt. Patienten und Ärzt:innen vertrauen den erwähnten Studienresultaten und akzeptieren, dass diese einen gewissen Black-Box-Charakter haben.
Die KI-basierte Medizinprodukte-Entwicklung gestaltet sich vergleichbar Zuerst werden Daten gesammelt, aus diesen – mit Hilfe von maschinellem Lernen (ML) – Regeln abgeleitet, die dann auf neue Einzelfälle angewandt werden. Mit geeigneten Testmethoden lassen sich solche Regeln überprüfen. In beiden Fällen sollen potenzielle Risiken frühzeitig identifiziert und mitigiert werden. Die Medizinprodukteverordnung (siehe Kasten) verlangt bereits heute, dass Risiken präventiv und kontinuierlich bewertet werden (also auch für den Einsatz von KI in Medizinprodukten). Dabei soll der Nutzen das verbleibende Restrisiko überwiegen. Dieser risikobasierte Ansatz ist in der MedTech Industrie seit Längerem etabliert. Dabei dürfte auch evident sein, dass ein Nullrisiko nur in der Theorie existiert. Dies ist auch bei der Einnahme von zugelassenen Medikamenten der Fall - eine entsprechende Substanz hat immer eine pharmakologische Hauptwirkung wie auch unerwünschte Nebenwirkungen[7].
Im Unterschied zum Menschen kann KI respektive ML (maschinelles Lernen) automatisiert und auf Basis höherer Mathematik komplexe, dem Menschen sonst verborgene Zusammenhänge finden. KI und ML sind dabei wesentlich schneller, effizienter und v. a. reproduzierbar; ähnlich wie ein Taschenrechner uns bei komplexen Berechnungen unterstützt. Eine einmal trainierte und «eingefrorene» KI[8] ergibt für identische Eingaben immer die gleichen Ausgaben – unabhängig von der Tageszeit oder Stimmung – was bei Menschen nicht zutrifft. Eine KI ermüdet auch nicht. KI unterstützt und ergänzt daher die evidenzbasierte Medizin in einer Form, auf die wir zukünftig nicht verzichten wollen. Das heisst jedoch nicht, dass wir uns kopflos und emotional in die KI-basierte MedTech stürzen sollen, sondern mit Bedacht die aktuell verfügbaren Methoden sinnvoll nutzen, um ein positives Nutzen-Risiko-Verhältnis zu schaffen, das dem Patienten dient.
Eine KI, die heute ein Diagnose A und morgen grundlos für den gleichen Fall ein Diagnose B erstellt, kann nicht das Ziel sein. Auch soll die Technik dem Menschen dienen und nicht umgekehrt. Dies galt bisher für Medizinprodukte (im klassischen Sinne) und soll auch künftig gelten (was KI-basierte Medizinprodukte einschliesst). Es liegt also an uns Menschen, ob die KI in der Medizintechnik ein Fluch oder Segen wird – wir können es beeinflussen, haben es in der Hand.
[1] In diesem Blogbeitrag betrachten wir der Einfachheit halber nur den Bereich der diagnostischen Medizintechnik.
[2] https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices
[3] Siehe Implant Files (https://www.bmj.com/content/363/bmj.k4997), was für weit weniger Aufsehen sorgte als der Skandal rund um Brustimplantate (PIP) (https://de.wikipedia.org/wiki/Poly_Implant_Proth%C3%A8se).
Anmerkung des Autors: Es kann heute relativ einfach gezeigt werden, dass auch eine noch strengere Regulierung (strenger als z.B. die EU MDR) solche extreme Fälle nicht verhindern kann. Eine Erörterung dazu würde jedoch den Rahmen dieses Blogs bei Weitem sprengen.
[4] Gemeint sind hier «deep neural networks» (dNN).
[5] Gemeint ist hier das akzeptable Nutzen-Risiko-Verhältnis (siehe Risikomanagment in der Medizintechnik - https://www.iso.org/standard/72704.html).
[6] Dies im Sinne von personalisierter Medizin.
[7] In der Medizintechnik entspricht die Hauptwirkung des Medikamentes der Zweckbestimmung (engl. intended purpose) und die Nebenwirkungen dem Restrisiko (engl. residual risk) des Medizinprodukts.
[8] Engl. «Freezed Artificial Intelligence»
Die Schweiz definiert Medizinprodukte in der Medizinprodukte-Verordnung (MepV), die auf dem Heilmittelgesetz (HMG) basiert, welches wiederum im Artikel 118 – Schutz der Gesundheit – der Bundesverfassung verankert ist. Diese Definition ist an die Europäische Regelung (Art.2 der EU-MDR) angelehnt und hat auch grosse Überschneidungen mit der Definition der US-amerikanischen Zulassungsbehörde FDA.
Gemäss dieser Definition erfüllt ein Medizinprodukt einen sogenannten medizinischen Zweck. Ein medizinischer Zweck kann z. B. die Diagnose einer Krankheit oder die Behandlung von Verletzungen sein. Zusätzlich gehören Produkte für die Empfängnisverhütung oder -förderung sowie Erzeugnisse, die speziell für die Reinging, Desinfektion oder Sterilisation von Produkten, welche einen medizinischen Zweck erfüllen, deren Zubehör sowie spezielle Produkte ohne medizinische Zweckbestimmung gemäss einer separaten Liste, dazu.
Die MepV deckt also eine grosse Palette von sehr unterschiedlichen Medizinprodukten und deren Zubehör ab: Einfache Produkte wie ein Heftpflaster, ein Spitalbett oder ein Rollstuhl, aber auch sehr komplexe wie ein MRT oder Defibrillatoren.
Die Blogbeiträge dieser Serie bieten eine interdisziplinäre Betrachtung der aktuellen KI-Entwicklung aus technischer und geisteswissenschaftlicher Perspektive. Sie sind das Ergebnis eines wiederkehrenden Austauschs und der Zusammenarbeit mit Thomas Probst, emeritierter Professor für Recht und Technologie (UNIFR), sowie SATW-Mitglied Roger Abächerli, Dozent für Medizinaltechnik (HSLU). Mit diesen monatlichen Beiträgen streben wir eine sachlich neutrale Analyse der wesentlichen Fragen an, die sich im Zusammenhang mit dem Einsatz von KI-Systemen in verschiedenen Anwendungsbereichen ergeben. Unser Ziel ist es, einzelne Aspekte des KI-Themas verständlich und fachlich fundiert zu erläutern, ohne dabei zu technisch ins Detail zu gehen.
