KI in der Medizin: EU AI Act und Medizinprodukte-Regulierung

Medizinische KI-Geräte sind nach Anhang III Nr. 1 EU AI Act Hochrisiko-KI, wenn sie sicherheitskritische Komponenten medizinischer Geräte nach MDR/IVDR sind. Parallel gilt: MDR (EU 2017/745) für aktive Implantate und andere Medizinprodukte, IVDR (EU 2017/746) für In-vitro-Diagnostika (z.B. KI-basierte Diagnostik-Software). Sonderregel: Wenn ein KI-Medizinprodukt bereits unter MDR/IVDR zertifiziert ist, gelten bestimmte EU AI Act-Anforderungen als erfüllt (Art. 8 EU AI Act).

KI-Radiologiesysteme (Bildanalyse): Hochrisiko (Anhang III + MDR Klasse IIa/IIb). KI-basierte Diagnose-Tools: Hochrisiko, je nach Kritikalität MDR-pflichtig. Klinische Entscheidungsunterstützung (CDSS): meistens Hochrisiko. Wearables mit KI-Gesundheitsmonitoring: je nach Funktion minimal bis hoch. KI-Apothekenroboter: potenziell Hochrisiko. Administrative Krankenhaus-KI (Terminplanung etc.): typischerweise minimales/begrenztes Risiko. Jedes System muss individuell bewertet werden.

Für medizinische KI ist klinische Validierung besonders wichtig. Anforderungen: klinische Studien mit repräsentativen Patientenpopulationen, Subgruppenanalysen (Alter, Geschlecht, Ethnizität), Real-World-Performance-Überwachung nach Markteinführung, Vergleich mit klinischem Goldstandard, unabhängige externe Validierung. Diese Anforderungen gehen über die allgemeinen EU AI Act-Testpflichten hinaus und sind in MDR-Leitlinien (MEDDEV, MDCG) spezifiziert.

Krankenhäuser und Kliniken als Betreiber von KI-Medizinprodukten: Bestehen Sie auf EU AI Act-Konformitätsnachweis bei Beschaffung, prüfen Sie CE-Kennzeichnung und MDR-Zertifikat, schulen Sie medizinisches Personal in KI-Grundlagen (Art. 4 EU AI Act), stellen Sie sicher, dass Ärzte KI-Empfehlungen immer eigenständig beurteilen (menschliche Aufsicht), melden Sie Vorkommnisse an den Hersteller und (bei MDR-relevanten Systemen) an die zuständige Behörde (BfArM/Swissmedic).