Diagnosen stellen, Therapien planen, eigenständig Entscheidungen treffen – generative KI macht all das, wird aber bislang nur wie gewöhnliche Software geprüft. Den USA reicht das nicht: Zeit für einen neuen Standard.
Sie liest Röntgen- und CT-Bilder mit, dokumentiert automatisch Arzt-Patienten-Gespräche und schlägt frühzeitig Alarm, wenn sich der Zustand eines Patienten kritisch verschlechtert: In der Medizin ist KI längst im Einsatz. Doch während Algorithmen zunehmend eingesetzt werden, bleibt oft offen, nach welchen Maßstäben sie überhaupt geprüft werden sollen.
Die USA sehen sich dabei als globalen Vorreiter – und preschen mit einem am 18. August 2026 vorgelegten Diskussionspapier an Europa vorbei. Die US-amerikanische Arzneimittel- und Lebensmittelbehörde FDA will damit einen neuen Ansatz für die Prüfung generativer KI in Medizinprodukten testen. Kompetenzbasierte Tests sollen reine Technik-Prüfung ablösen. Die Idee: ein Prüfrahmen ganz nach dem Vorbild der Ärzteausbildung.
Direktorin der CDRH (Center for Devices and Radiological Health), Dr. Michelle Tarver, spricht von einem „potenziellen Modell für Regulierer weltweit“. Sie ist zuständig für die Zulassung von Medizinprodukten und Strahlung durch die FDA. Doch was kann das vorgelegte Diskussionspapier – und wo stehen wir im Zulassungsdschungel?
Mit ihrem Positionspapier schlägt die FDA vor, die Risiken generativer KI-Systeme anhand von zwei Kriterien einzustufen: Wie gefährlich könnte ein Fehler der KI für Patienten sein (Gefahrenpotenzial), und wie stark greift die KI selbstständig ins Geschehen ein (Grad der Eigenständigkeit)? Je riskanter die Anwendung, desto strenger und umfangreicher muss sie getestet werden.
Für die eigentliche Prüfung schlägt die FDA einen kompetenzbasierten Ansatz vor. Vereinfacht gesagt: Nicht nur die Technik soll geprüft werden, sondern auch, was die KI in ihrem vorgesehenen Einsatz tatsächlich leisten kann. Konkret nennt die FDA fünf mögliche Bereiche:
Entscheidend hierbei: KI-Systeme sollen zusätzlich außerhalb klinischer Studien getestet, an Patienten bestätigt und nach der Markteinführung dauerhaft überwacht werden. Damit reicht der Entwurf weiter als bisherige Softwaretests. Die Idee erinnert an die Ausbildung von Ärzten: Nicht nur theoretisches Wissen zählt, sondern auch die Fähigkeit, dieses Wissen sicher anzuwenden.
Anlass bietet die rasante Marktentwicklung: Aktuell enthält die Liste der von der FDA zugelassenen KI-gestützten Medizinprodukte bereits mehr als 1.500 Einträge. Dabei handelt es sich nicht ausschließlich um generative KI. Auch Machine-Learning-Systeme sind eingeschlossen.
Wie gut diese Produkte tatsächlich klinisch untersucht sind, ist allerdings eine andere Frage. So zeigte 2025 eine im Fachjournal PLOS Digital Health veröffentlichte Studie, dass von 1.357 FDA-zugelassenen KI-Medizinprodukten nur drei explizit auf patientenrelevante Ergebnisse getestet wurden. Nur 34 waren mit registrierten prospektiven klinischen Studien verbunden. Für zwölf lagen Studienergebnisse vor. Es herrscht also eine Lücke zwischen Marktzugang und klinischer Evidenz. Die Autoren forderten daher, dass die Zulassungspolitik kritisch überarbeitet werden müsse. Es bedarf ihrer Meinung nach stärkerer Evidenz und klinischer Validierung. Mit dem nun vorliegenden Diskussionspapier scheint die FDA dieser Forderung nachzugehen.
Wie sieht es in der EU aus? Medizinische KI-Systeme können in der EU sowohl unter die Medizinprodukteverordnung (MDR) bzw. die In-vitro-Diagnostika-Verordnung (IVDR) als auch unter den AI Act fallen. Welche Regeln konkret gelten, hängt unter anderem davon ab, wofür die KI eingesetzt wird und wie riskant ihre Anwendung ist.
Hier wird es schnell unübersichtlich: Anders als in den USA gibt es in der EU kein zentrales behördliches Zulassungsverfahren für Medizinprodukte. Je nach Risikoklasse prüfen sogenannte „Benannte Stellen“, ob ein Produkt die gesetzlichen Anforderungen erfüllt. Ist alles in Ordnung, bekommt es die CE-Kennzeichnung und kann grundsätzlich in der gesamten EU verkauft werden. Die Überwachung läuft anschließend vor allem über die nationalen Behörden. Diese Zersplitterung hat einen entscheidenden Nachteil: Anders als die FDA führt die EU keine zentrale Übersicht über zugelassene KI-Medizinprodukte. Es herrscht ein massiver Mangel an Transparenz.
Hoffnungsträger für die EU ist EUDAMED. Die europäische Datenbank für Medizinprodukte soll mehr Transparenz schaffen. Seit dem 28. Mai 2026 sind vier ihrer sechs Module verpflichtend: unter anderem die Registrierung von Medizinprodukten, Benannten Stellen und Marktüberwachung. Eine transparente, spezifische Filterung rein nach KI-Kriterien – ähnlich der FDA-KI-Datenbank – bietet EUDAMED jedoch noch nicht.
In der EU sind die meisten KI-Medizinprodukte bisher keine generativen Systeme, sondern beispielsweise Anwendungen zur Bildanalyse oder Diagnoseunterstützung. Generative KI-Modelle gelten aufgrund ihrer Unvorhersehbarkeit als deutlich schwerer zu zertifizieren. Wie zertifiziert man auch etwas, das sich ständig weiterentwickelt und verändert? Genau deshalb will die FDA nun diskutieren, ob generative KI stärker anhand ihrer tatsächlichen Fähigkeiten geprüft werden sollte.
Noch ist offen, ob ihr Ansatz zum neuen Standard wird. Bis zum 19. Oktober 2026 können Experten und Öffentlichkeit Stellung nehmen. Erst danach wird sich zeigen, wie viel von der Idee tatsächlich in der medizinischen Praxis ankommt.
Bildquelle: KI generiert mit Nano Banana 2
