--- title: "Update ungewollt? Wie Regulierung lernende KI in der Medizin bremst" language: "de" type: "post" original_url: "https://www.atlas-digitale-gesundheitswirtschaft.de/blog/2026/01/05/update-ungewollt-wie-regulierung-lernende-ki-in-der-medizin-bremst/" human_version: "../../../../../mensch/blog/2026/01/05/update-ungewollt-wie-regulierung-lernende-ki-in-der-medizin-bremst/" date: "2026-01-05" section: "Science Digest" categories: ["KI"] author: "Carolin Berlich [Qualitätssicherung: Dr. Katharina Loboiko]" reading_time: "6 Min." description: "Lernende KI-Systeme entwickeln sich weiter. Können die aktuellen Regularien diese dynamische Entwicklung adäquat begleiten?" publisher: "Lehrstuhl für Management und Innovation im Gesundheitswesen, Universität Witten/Herdecke" --- # Update ungewollt? Wie Regulierung lernende KI in der Medizin bremst *05.01.2026 · Science Digest · Von Carolin Berlich [Qualitätssicherung: Dr. Katharina Loboiko]* *Lernende KI-Systeme entwickeln sich mit zunehmender Datenverfügbarkeit weiter. Können die aktuellen Regularien diese dynamische Entwicklung adäquat begleiten?* ### **Dynamische Entwicklung vs. statische Regulierung** Die Zahl reiner, zum Teil lernender KI-Medizinprodukte liegt inzwischen bei rund 1.200 zugelassenen Produkten (Stand: Juli 2025) (1, 2). Mit der zunehmenden Verfügbarkeit medizinischer Daten steigen zugleich die Erwartungen an diese Produkte: Größere Datenmengen sollen zu einer höheren Modellgüte und damit zu einer verbesserten Leistung führen (3). Selbstlernende Systeme besitzen dabei den Vorteil, sich auch nach der Markteinführung auf Grundlage realer Einsatzdaten fortlaufend optimieren zu können und so die Performance stetig zu verbessern (3). Dieser dynamischen Entwicklung steht jedoch ein weitgehend statischer regulatorischer Rahmen gegenüber. Wesentliche Änderungen, die potenziell Leistung oder Sicherheit beeinflussen, erfordern in der Regel eine erneute regulatorische Bewertung und gegebenenfalls eine Re-Zertifizierung (4). Adaptive, selbstlernende Modelle verändern sich jedoch nach dem Inverkehrbringen kontinuierlich. Dies führt zu einem erheblich erhöhten regulatorischen Aufwand – selbst dann, wenn die Verbesserung ausschließlich auf einer erweiterten Datengrundlage basiert (3-5). Doch wie wirkt sich dieser statische Regulierungsansatz konkret auf die Weiterentwicklung KI-basierter Medizinprodukte aus und steigern mehr Daten tatsächlich die Performance? ### **Mehr Daten = bessere KI?** Eine amerikanische Analyse liefert dazu aktuelle Daten: Wu et al. (1) untersuchten, in welchem Umfang KI-basierte Medizinprodukte (KI-MD) in der Praxis aktualisiert werden. Datenbasis der Analyse waren Zulassungsdokumente zu 416 KI-Medizinprodukten aus der FDA-Datenbank. Um Updates zu identifizieren, verglichen die Forschenden das aktuell eingereichte Gerät („subject device“) mit dem zuvor zugelassenen Referenzgerät („predicate device“) desselben Herstellers. Die Art der Updates wurde anschließend anhand der in den Zulassungsunterlagen beschriebenen technischen Änderungen klassifiziert. Die Ergebnisse zeigen, dass nur ein kleiner Teil der KI-Modelle nach der Markteinführung tatsächlich weiterentwickelt wird. Lediglich rund ein Viertel der Systeme erhielt überhaupt ein Update, und nur etwa 1,7 % (6 Produkte) wurden dabei mit neuen Daten re-trainiert. Die meisten Änderungen bezogen sich stattdessen auf funktionale Erweiterungen und zusätzliche Anwendungsbereiche. Damit scheint es für Hersteller häufig wirtschaftlich attraktiver zu sein, neue Funktionen einzuführen, anstatt bestehende Modelle im Sinne kontinuierlich lernender Systeme zu verbessern. Ein Fallbeispiel zeigt jedoch, dass auch Re-Trainings selbst mit Herausforderungen verbunden sind. Wird ein Modell mit standortspezifischen Daten neu trainiert, kann sich die Leistung an diesem neuen Standort zwar verbessern, gleichzeitig nimmt die Genauigkeit am ursprünglichen Einsatzort ab. Ursache hierfür ist, dass eine zu starke Generalisierung standortspezifische Muster und Kontextfaktoren verwischt, wodurch die Anpassung an lokale Gegebenheiten und damit die Vorhersagegenauigkeit leidet. Diese Erkenntnis wird durch weitere Studien gestützt, die zeigen, dass mit zunehmender Datenmenge ein Grenznutzen erreicht wird und zusätzliche Daten zu keiner Qualitätsverbesserung führen können [5, 6]. Im Gegenteil: Eine zunehmende Datenmenge kann am ursprünglichen Einsatzort zu einer Abnahme der Performance führen, was ein potenzielles Sicherheitsrisiko für Patientinnen und Patienten darstellen kann [1, 7]. ### **AI Act fördert lernende Systeme nicht** Die Weiterentwicklung lernender Systeme steht damit vor zwei Herausforderungen: Zum einen besteht die ethische Verpflichtung, lernende Modelle so zu entwickeln, dass sie für den jeweiligen Einsatzkontext die bestmögliche Leistung erbringen (8) – was gegen eine generelle Standardisierung spricht. Zum anderen sind die bestehenden regulatorischen Vorgaben nicht ausreichend flexibel, um agile KI-Medizinprodukte angemessen abzubilden. Daran wird sich auch unter der neuen Verordnung über Künstliche Intelligenz (Artificial Intelligence Act, AI Act) der Europäischen Union nichts ändern [9]. In Kombination mit der Medizinprodukteverordnung (Medical Device Regulation, MDR) legt der AI Act zwar den regulatorischen Rahmen für KI-basierte Medizinprodukte fest, dieser Rahmen bleibt jedoch ein statisches Modell. Konzepte für den Umgang mit selbstlernenden KI-Systemen sind darin bislang nicht enthalten [9]. ### **Doppelte Hürden für lernende KI-Systeme in der Medizin** Die Ergebnisse zeigen zwei zentrale Herausforderungen: Erstens gibt es technische Grenzen. Obwohl größere Datenmengen theoretisch zu besseren Modellen führen sollen, kann sich die Leistung in der Praxis sogar verschlechtern. Seitens der Hersteller und Nutzer sollte stets berücksichtigt werden, dass mehr Daten nicht automatisch zu einem besseren Produkt führen. Entgegen dem Drang zur Standardisierung müssen Lösungen entwickelt werden, die an ein individuelles Setting angepasst sind und sich innerhalb eines definierten Kontexts weiterentwickeln können. Zweitens stößt die Weiterentwicklung an regulatorische Grenzen. Aufgrund der bislang bestehenden Regulierung und des damit verbundenen zeitlichen sowie finanziellen Aufwands sind selbstlernende Systeme bislang nur in geringem Maße etabliert. Der kommende EU AI Act wird an dieser grundlegenden Logik der Produktregulierung voraussichtlich wenig ändern. Seitens der EU sollte ein regulatorischer Rahmen geschaffen werden, der sich an die Flexibilität des Produkts anpasst und zugleich den erforderlichen Patientenschutz gewährleistet. Nur unter diesen Bedingungen besteht für Hersteller ein Anreiz, agile KI-MD in Verkehr zu bringen. Nur wenn alle Beteiligten lernen, dynamisch und zugleich kontextspezifisch zu agieren, kann der Nutzen selbstlernender Anwendungen realisiert werden. ### **Quellen** 1. Wu K, Wu E, Rodolfa K, Ho DE, Zou J. Regulating AI Adaptation: An Analysis of AI Medical Device Updates. In: Proceedings of the Conference on Health, Inference, and Learning (CHIL). PMLR; 2024. p. 1–12 2. Food and Drug Administration. Artificial Intelligence-Enabled Medical Devices [Internet]. Stand: 07.10.2025 [zitiert 2025 Aug 11]. Verfügbar unter: [https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices](https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices) 3. Gilbert S, Fenech M, Hirsch M, Upadhyay S, Biasiucci A, Starlinger J. Algorithm Change Protocols in the Regulation of Adaptive Machine Learning–Based Medical Devices. J Med Internet Res. 2021;23(10):e30545. doi:10.2196/30545 4. Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte. Amtsblatt der Europäischen Union. 2017;L117:1–175 5. Li P, Williams R, Gilbert S, Anderson S. Regulating Artificial Intelligence and Machine Learning-Enabled Medical Devices in Europe and the United Kingdom. Law Technol Hum. 2023;5(2):94–108. doi:10.5204/lthj.3073 6. Kang S, De Neve W, Rameau F, Ozbulak U. Exploring Patient Data Requirements in Training Effective AI Models for MRI-based Breast Cancer Classification. arXiv preprint. 2025 Feb 22. arXiv:2502.18506. 7. Cengiz AB, McGough AS. How much data do I need? A case study on medical data. In: 2023 International Conference on Computing. Newcastle University; 2023. 8. Liu X, Glocker B, McCradden MM, Ghassemi M, Denniston AK, Oakden-Rayner L. The medical algorithmic audit. Lancet Digit Health. 2022;4(5):e384–97. doi:10.1016/S2589-7500(22)00003-6 9. Deutscher Ethikrat. Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Stellungnahme. Berlin: Deutscher Ethikrat; 2023. 10. Luckner S, Lauer W. Regulatorische Einordnung KI-basierter Produkte für die medizinische Anwendung auf Basis von EU AI Act und MDR/IVDR. Bundesgesundheitsbl. 2025;68:854–861. doi:10.1007/s00103-025-04091-9 #### Verwandte Artikel - [KI in der Diagnostik: Globale Erwartungen im Wandel?](../../../2025/12/02/ki-in-der-diagnostik-globale-erwartungen-im-wandel.md) - [Wie wird das Gesundheitswesen durch KI beeinflusst?](../../../2025/04/08/wie-wird-das-gesundheitswesen-durch-ki-beeinflusst.md) - [Künstliche Intelligenz als Wegbereiter für soziale und nachhaltige Innovation im Krankenhaus](../../../2025/04/08/kuenstliche-intelligenz-als-wegbereiter-fuer-soziale-und-nachhaltige-innovation-im-krankenhaus.md) **Kategorien:** KI ## Bilder auf dieser Seite - Bild1.png: ../../../../../mensch/assets/bilder/wp-content/uploads/2026/01/Bild1.png - Hintergrundbild: ../../../../../mensch/assets/bilder/wp-content/uploads/2026/01/10-1.png --- Diese Seite ist für KI-Systeme optimiert. Version für Menschen: [Update ungewollt? Wie Regulierung lernende KI in der Medizin bremst](../../../../../mensch/blog/2026/01/05/update-ungewollt-wie-regulierung-lernende-ki-in-der-medizin-bremst/)