KI Regulierung Gesundheitswesen: EU AI Act im Klinikbetrieb

Der EU AI Act ist seit August 2024 in Kraft und stellt Krankenhäuser, Kliniken und Gesundheitseinrichtungen im gesamten DACH-Raum vor konkrete Compliance-Aufgaben. Während Deutschland und Österreich die Verordnung direkt anwenden, verfolgt die Schweiz einen eigenständigen regulatorischen Weg. Für CISOs und Informationssicherheitsbeauftragte im Gesundheitswesen bedeutet das: KI-Systeme in der Diagnostik, Bildverarbeitung oder Patientensteuerung sind ab sofort keine regulatorische Grauzone mehr. Dieser Artikel gibt Ihnen einen strukturierten Überblick über Anforderungen, nationale Unterschiede und konkrete Umsetzungsschritte.

Rechtslage: Was der EU AI Act für das Gesundheitswesen bedeutet

Der EU AI Act (Verordnung (EU) 2024/1689) gilt seit dem 1. August 2024 als unmittelbar anwendbares EU-Recht in allen Mitgliedstaaten — und damit direkt in Deutschland und Österreich. Die Verordnung folgt einem risikobasierten Ansatz, der für das Gesundheitswesen besondere Relevanz hat: Viele KI-Systeme im klinischen Umfeld fallen in die Kategorie Hochrisiko-KI (High-Risk AI).

Was gilt als Hochrisiko-KI im Gesundheitswesen?

Anhang III des AI Act definiert explizit KI-Systeme als hochriskant, wenn sie in folgenden Bereichen eingesetzt werden:

Medizinische Bildgebung und Diagnostik: KI-gestützte Analyse von Röntgen-, MRT- oder CT-Aufnahmen
Klinische Entscheidungsunterstützung: Systeme, die Behandlungsempfehlungen generieren oder priorisieren
Risikobewertung von Patienten: z. B. Sepsis-Frühwarnsysteme, Wiederaufnahme-Prognosen
Ressourcenplanung mit direktem Patientenbezug: z. B. OP-Scheduling-KI, die klinische Parameter einbezieht

Wichtig: Nicht jede Software im Krankenhaus ist automatisch Hochrisiko-KI. Ein einfaches regelbasiertes Triage-Tool ohne Lernkomponente fällt häufig nicht unter die Verordnung. Die Abgrenzung erfordert eine sorgfältige KI-Systemklassifikation durch die jeweilige Einrichtung.

Überschneidung mit MDR/IVDR

Für viele klinische KI-Systeme besteht eine regulatorische Doppelbelastung: Systeme, die gleichzeitig als Medizinprodukt nach MDR (Verordnung (EU) 2017/745) oder IVDR (Verordnung (EU) 2017/746) eingestuft sind, unterliegen beiden Regelwerken. In der Praxis bedeutet das: Ein KI-gestütztes Diagnosesystem, das bereits eine CE-Kennzeichnung nach MDR trägt, muss zusätzlich die Anforderungen des AI Act erfüllen — insbesondere hinsichtlich Transparenz, Robustheit und Human Oversight.

Zeitplan und Übergangsfristen: Was gilt wann?

Die KI Regulierung Gesundheitswesen entfaltet ihre Wirkung gestaffelt. Für CISOs und IT-Leiter ist der folgende Zeitplan handlungsrelevant:

Datum	Inkrafttreten
01.08.2024	AI Act gilt seit diesem Datum (Inkrafttreten)
02.02.2025	Verbotene KI-Praktiken (Artikel 5) gelten seit diesem Datum
02.08.2025	GPAI-Regelungen (General Purpose AI) und Governance-Strukturen gelten seit diesem Datum
02.08.2026	Hochrisiko-KI nach Anhang III (inkl. Gesundheitswesen) gilt ab diesem Datum vollständig
02.08.2027	Hochrisiko-KI in regulierten Produkten (Anhang I, inkl. MDR-Produkte) gilt ab diesem Datum

Für die Praxis bedeutet das: Die vollständigen Pflichten für klinische Hochrisiko-KI-Systeme nach Anhang III greifen ab August 2026 — also in wenigen Wochen. Einrichtungen, die noch keine KI-Inventarisierung durchgeführt haben, handeln jetzt dringend.

Nationale Unterschiede: DE, AT und CH im Vergleich

Deutschland

In Deutschland gilt der AI Act als EU-Verordnung unmittelbar und bedarf keiner nationalen Umsetzungsgesetzgebung. Die Bundesnetzagentur wurde als nationale Marktüberwachungsbehörde benannt. Für das Gesundheitswesen ergeben sich Überschneidungen mit:

§ 391 SGB V (Krankenhäuser der kritischen Infrastruktur): KRITIS-Krankenhäuser müssen bereits nach BSIG und IT-SiG 2.0 umfassende Sicherheitsmaßnahmen nachweisen. Der AI Act fügt eine zusätzliche Compliance-Schicht hinzu.
NIS2-Umsetzungsgesetz (NIS2UmsuCG): Gilt seit Oktober 2024 und adressiert Betreiber wesentlicher und wichtiger Einrichtungen, zu denen viele Krankenhäuser zählen. KI-Systeme, die kritische Prozesse steuern, fallen in den gemeinsamen Anwendungsbereich von NIS2UmsuCG und AI Act.
B3S Krankenhaus: Der branchenspezifische Sicherheitsstandard für Krankenhäuser enthält zwar noch keine expliziten KI-Anforderungen, wird jedoch mittelfristig angepasst werden müssen.

Österreich

Auch in Österreich gilt der AI Act als unmittelbar anwendbares EU-Recht. Die nationale Umsetzung der NIS2-Richtlinie erfolgte durch das NISG 2024 (Netz- und Informationssystemsicherheitsgesetz 2024), das seit Januar 2025 gilt. Die Rundfunk und Telekom Regulierungs-GmbH (RTR) wurde als KI-Behörde für bestimmte Bereiche nominiert; die genaue institutionelle Zuordnung für den Gesundheitssektor ist noch im Klärungsprozess.

Für österreichische Krankenhäuser gilt: KI-Systeme, die in KRITIS-relevanten Betrieben eingesetzt werden, müssen sowohl die AI-Act-Anforderungen als auch die NISG-2024-Pflichten erfüllen. Die österreichische Medizinproduktegesetz-Novelle integriert zudem Querverweise auf die MDR/IVDR, was die Doppelanforderung für KI-basierte Medizinprodukte auch österreichweit relevant macht.

Schweiz

Die Schweiz ist kein EU-Mitgliedstaat — der AI Act gilt dort nicht unmittelbar. Die Schweiz verfolgt einen eigenständigen Weg:

Es gibt derzeit kein nationales KI-Gesetz, das dem AI Act direkt entspricht.
Der Bundesrat beobachtet die EU-Entwicklung und hat angekündigt, die Kompatibilität mit dem AI Act zu prüfen, ohne eine 1:1-Übernahme zu versprechen.
Im Gesundheitsbereich gelten stattdessen das Heilmittelgesetz (HMG), die Medizinprodukteverordnung (MepV) und datenschutzrechtlich das nDSG (neues Datenschutzgesetz, gilt seit September 2023).
Schweizer Unternehmen, die KI-Produkte in die EU exportieren oder dort einsetzen, unterliegen dem AI Act trotzdem — als Anbieter mit EU-Marktauftritt.

Empfehlung für die Schweiz: Auch wenn der AI Act nicht direkt gilt, empfiehlt sich eine freiwillige Ausrichtung an den Hochrisiko-Anforderungen — als Exportmarkt-Voraussetzung und als Best-Practice-Rahmen.

Konkrete Pflichten für Hochrisiko-KI: Was Kliniken umsetzen müssen

Für Einrichtungen, die Hochrisiko-KI-Systeme betreiben (als Deployer/Betreiber), gelten folgende Kernpflichten ab August 2026:

1. Risikomanagement-System

Artikel 9 AI Act verlangt ein dokumentiertes Risikomanagementsystem für jedes Hochrisiko-KI-System — über den gesamten Lebenszyklus. Für ISBs bedeutet das: Das bestehende ISMS nach ISO 27001 oder BSI IT-Grundschutz muss um KI-spezifische Risikobetrachtungen erweitert werden. Relevante Fragen:

Welche klinischen Entscheidungen kann das System beeinflussen?
Welche Fehlerszenarien (False Positives, False Negatives) sind patientenrelevant?
Wie ist Human Oversight sichergestellt?

2. Technische Dokumentation und Konformitätsbewertung

Anbieter von Hochrisiko-KI (Artikel 11, 43) müssen eine umfassende technische Dokumentation bereitstellen. Als Betreiber (Deployer) müssen Krankenhäuser prüfen, ob diese Dokumentation vorliegt und ob das System bestimmungsgemäß eingesetzt wird. Weicht der Einsatzzweck vom vorgesehenen Zweck ab, kann aus dem Betreiber ein faktischer Anbieter werden — mit allen daraus resultierenden Pflichten.

3. Menschliche Aufsicht (Human Oversight)

Artikel 14 ist für den klinischen Kontext besonders kritisch: KI-Systeme müssen so gestaltet und eingesetzt werden, dass natürliche Personen die Ausgaben überwachen, hinterfragen und ggf. übersteuern können. Für Radiologen, Intensivmediziner oder Pflegepersonal bedeutet das: KI-Empfehlungen dürfen nie ohne menschliche Validierung in klinische Entscheidungen einfließen. Dies muss in Arbeitsanweisungen und SOPs verankert sein.

4. Logging und Audit-Trail

Artikel 12 verlangt, dass Hochrisiko-KI-Systeme automatisch Protokolle erstellen, die eine Nachverfolgung der System-Outputs ermöglichen. Dies überschneidet sich mit bestehenden Anforderungen aus DSGVO (Artikel 5, Rechenschaftspflicht) und BSI IT-Grundschutz (Protokollierung). Für SIEMs in Krankenhäusern ergibt sich die Anforderung, KI-spezifische Logs zu integrieren.

5. Transparenzpflichten gegenüber Patienten

Soweit KI-Systeme im direkten Patientenkontakt eingesetzt werden (z. B. KI-gestützte Chatbots für Terminvergabe oder Symptomanalyse), gelten zusätzliche Informationspflichten. Patienten müssen wissen, dass sie mit einem KI-System interagieren — eine Anforderung, die in Datenschutzerklärungen und Einwilligungsformulare einfließen muss.

Stolperfallen und häufige Fehler in der Umsetzung

In der Beratungspraxis zeigen sich wiederkehrende Schwachstellen, die bei der KI Regulierung Gesundheitswesen besondere Aufmerksamkeit verdienen:

Fehler 1: Keine KI-Inventarisierung Viele Einrichtungen wissen nicht, welche KI-Systeme überhaupt im Einsatz sind. KI ist häufig als Modul in bestehende Systeme (KIS, RIS, PACS) integriert und wird nicht als separates KI-System wahrgenommen. Erste Pflichtaufgabe: Ein vollständiges AI Asset Inventory anlegen.

Fehler 2: Verantwortung beim Hersteller verorten Der AI Act unterscheidet klar zwischen Provider (Anbieter) und Deployer (Betreiber). Als Krankenhaus, das ein KI-System einsetzt, tragen Sie als Deployer eigene Pflichten — unabhängig davon, was im Vertrag mit dem Hersteller steht. Vertragliche Regelungen können Pflichten konkretisieren, aber nicht eliminieren.

Fehler 3: KI-Governance als IT-Thema behandeln KI-Governance im Gesundheitswesen ist eine interdisziplinäre Aufgabe: Ärztliche Direktion, Pflegeleitung, Rechtsabteilung, Datenschutzbeauftragter und CISO müssen gemeinsam an einem KI-Governance-Framework arbeiten. Eine reine IT-Lösung greift zu kurz.

Fehler 4: Verbotene KI-Praktiken nicht geprüft Artikel 5 (verbotene Praktiken, gilt seit Februar 2025) untersagt u. a. Social Scoring und manipulative KI-Systeme. Für Krankenhäuser relevant: KI-basierte Priorisierungssysteme, die implizit diskriminierende Faktoren einbeziehen, können in diese Kategorie fallen. Eine rechtliche Prüfung ist zwingend.

Hinweis: Dieser Artikel stellt keine Rechtsberatung dar. Für die rechtliche Bewertung konkreter KI-Systeme und deren Einordnung unter den AI Act wenden Sie sich bitte an einen spezialisierten Rechtsanwalt.

Empfehlungen und nächste Schritte für CISO und ISB

AI Inventory jetzt erstellen: Alle eingesetzten KI-Systeme erfassen, Einsatzzweck und Risikoklasse bestimmen.
Hochrisiko-KI identifizieren: Für jeden Treffer in Anhang III eine Gap-Analyse gegenüber den AI-Act-Anforderungen durchführen.
Lieferantenverträge prüfen: Technische Dokumentation, Konformitätsbewertungen und SLAs auf AI-Act-Konformität prüfen.
ISMS erweitern: KI-spezifische Risiken in das bestehende Risikoregister aufnehmen; ISO 27001 Controls um AI-Act-Anforderungen ergänzen.
**Human-Oversight

Kostenlose NIS2-Bestandsaufnahme starten →