Mit Zertifikat8h Fortbildung
Change Management in Pflegeeinrichtungen
ca. 8 StundenKurs ansehen →
Praxis: Die Klinikleitung fragt nach Compliance
Dr. Weber, Geschäftsführer eines kommunalen Krankenhauses, erhält Post von der Aufsichtsbehörde: Ab 2026 gelten neue Pflichten für KI-Systeme im Gesundheitswesen. Sein Haus nutzt bereits KI für die Radiologie-Befundung und die Personalplanung. Er muss nun klären: Welche dieser Systeme fallen unter den EU AI Act? Welche Pflichten entstehen? Und welche Bußgelder drohen bei Verstößen?
Warum das Gesundheitswesen Hochrisiko-Bereich ist
Der EU AI Act (Verordnung (EU) 2024/1689) klassifiziert KI-Systeme in vier Risikokategorien: inakzeptables Risiko (verboten), hohes Risiko, begrenztes Risiko und minimales Risiko. Das Gesundheitswesen wird explizit als Hochrisiko-Bereich eingestuft. Der Grund: KI-Entscheidungen in der Medizin und Pflege können unmittelbare Auswirkungen auf die Gesundheit und das Leben von Menschen haben. Eine fehlerhafte KI-Diagnose, eine falsche Medikamentenempfehlung oder eine diskriminierende Triagierung kann schwerwiegende Folgen haben. Deshalb unterliegen KI-Systeme, die in der Patientenversorgung, Diagnostik, Therapieplanung oder Personalsteuerung eingesetzt werden, den strengsten Auflagen der Verordnung.
Zeitplan und Fristen
Der EU AI Act ist am 1. August 2024 in Kraft getreten. Die Umsetzung erfolgt in mehreren Stufen. Ab dem 2. Februar 2025 gelten die Verbote für KI-Systeme mit inakzeptablem Risiko. Ab dem 2. August 2025 greifen die Regeln für KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI). Die für das Gesundheitswesen besonders relevanten Vorschriften für Hochrisiko-KI-Systeme gelten ab dem 2. August 2026. Das bedeutet: Kliniken und Pflegeeinrichtungen haben noch Zeit zur Vorbereitung, müssen aber jetzt mit der Compliance-Planung beginnen, um die Frist einzuhalten.
Deadline Hochrisiko-KI2. August 2026Alle Pflichten für bestehende Hochrisiko-KI-Systeme greifen
Die 7 Pflichten für Hochrisiko-KI-Systeme
1
Risikomanagementsystem einrichten
Einrichtungen müssen ein dokumentiertes Risikomanagementsystem für jedes Hochrisiko-KI-System etablieren. Dieses umfasst die Identifikation, Bewertung und Minderung von Risiken über den gesamten Lebenszyklus des Systems.
2
Daten-Governance sicherstellen
Die Trainings-, Validierungs- und Testdaten müssen repräsentativ, fehlerfrei und fair sein. Verzerrungen (Bias) in den Daten müssen systematisch erkannt und korrigiert werden.
3
Technische Dokumentation erstellen
Eine umfassende technische Dokumentation muss vor dem Einsatz des KI-Systems erstellt und aktuell gehalten werden. Sie muss die Funktionsweise, Leistungsgrenzen und bekannte Risiken beschreiben.
4
Protokollierung und Nachverfolgbarkeit
Alle KI-Entscheidungen müssen automatisch protokolliert werden, sodass sie nachträglich überprüft und nachvollzogen werden können. Die Aufbewahrungsfrist beträgt mindestens sechs Monate.
5
Transparenz und Information
Nutzerinnen und Nutzer (also medizinisches Personal) müssen über die Funktionsweise, Leistungsfähigkeit und Grenzen des KI-Systems informiert werden. Anleitungen müssen verständlich und zugänglich sein.
6
Menschliche Aufsicht gewährleisten
Es muss sichergestellt sein, dass eine qualifizierte Fachkraft die KI-Ergebnisse überprüfen, überstimmen oder das System deaktivieren kann. Vollautomatische Entscheidungen ohne menschliche Kontrolle sind unzulässig.
7
Genauigkeit, Robustheit und Cybersicherheit
Das KI-System muss nachweislich genau, robust gegenüber Fehlern und Angriffen sowie cybersicher sein. Regelmäßige Tests und Updates sind Pflicht.
Bußgelder und Konsequenzen
Der EU AI Act sieht empfindliche Sanktionen bei Verstößen vor. Für den Einsatz verbotener KI-Praktiken drohen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Bei Verstößen gegen die Pflichten für Hochrisiko-KI-Systeme können Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes verhängt werden. Für die Bereitstellung falscher oder unvollständiger Informationen an Behörden sind Bußgelder von bis zu 7,5 Millionen Euro oder 1 Prozent des Jahresumsatzes vorgesehen. Für kleinere und mittlere Unternehmen (KMU) gelten reduzierte Obergrenzen, die jedoch immer noch erheblich sind.
⚠️
Verbotene KI-Praktiken
Bis zu 35 Mio. Euro oder 7% des Jahresumsatzes. Betrifft z.B. Social Scoring oder unterschwellige Manipulation.
⚠️
Hochrisiko-Verstöße
Bis zu 15 Mio. Euro oder 3% des Jahresumsatzes. Betrifft fehlende Dokumentation, Risikoanalyse oder menschliche Aufsicht.
10-Schritte-Compliance-Checkliste
Inventar aller eingesetzten KI-Systeme in Ihrer Einrichtung erstellen
Risikoklassifikation jedes Systems nach EU AI Act vornehmen
Hochrisiko-Systeme identifizieren (Diagnostik, Therapie, Personal, Triage)
Für jedes Hochrisiko-System ein Risikomanagementsystem einrichten
Technische Dokumentation aller Hochrisiko-Systeme erstellen oder beim Anbieter einfordern
Protokollierungsmechanismen für alle KI-Entscheidungen implementieren
Schulungen für medizinisches Personal zur KI-Nutzung und Kontrolle durchführen
Prozesse für menschliche Aufsicht und Übersteuerung definieren
Datenschutz-Folgenabschätzung (DSFA) für alle KI-Systeme aktualisieren
Verantwortliche Person (AI Officer) für die KI-Compliance benennen
Abgrenzung: DSGVO und EU AI Act
Die DSGVO regelt den Schutz personenbezogener Daten und gilt seit 2018. Der EU AI Act ergänzt die DSGVO um spezifische Anforderungen an KI-Systeme. Während die DSGVO den Fokus auf den Datenschutz legt (Rechtsgrundlage der Verarbeitung, Betroffenenrechte, Datenschutz-Folgenabschätzung), adressiert der AI Act die Sicherheit, Transparenz und Fairness von KI-Systemen. Beide Verordnungen gelten parallel. Ein KI-System im Gesundheitswesen muss also sowohl DSGVO-konform als auch AI-Act-konform sein. Besonders relevant: Die DSGVO schützt bereits das Recht auf menschliche Überprüfung automatisierter Entscheidungen (Art. 22 DSGVO). Der AI Act erweitert diesen Schutz durch konkrete Anforderungen an die technische Ausgestaltung der menschlichen Aufsicht.
Der EU AI Act ist kein Hindernis für Innovation im Gesundheitswesen. Er ist ein Rahmenwerk, das sicherstellt, dass KI-Innovationen sicher, transparent und zum Wohl der Patientinnen und Patienten eingesetzt werden.
Compliance-Beratung und Schulung
Sie möchten Ihre Einrichtung auf den EU AI Act vorbereiten? Das Refresher Zentrum bietet Inhouse-Schulungen und Compliance-Workshops speziell für das Gesundheitswesen an. Kontaktieren Sie uns für ein individuelles Angebot.
DT
Dennis Tefett, M.A.
Gesundheitsmanager & Neurowissenschaftler. Gründer des Refresher Zentrums. Über 300 Führungskräfte und Praxisanleitende geschult.
Mehr über den Autor →Gefällt Ihnen dieser Artikel?
Erhalten Sie neue Fachartikel, Seminar-Updates und exklusive Praxistipps direkt in Ihr Postfach.
Online-Fortbildungen
Passende Kurse zu diesem Thema
Vertiefen Sie Ihr Wissen mit unseren zertifizierten Online-Fortbildungen.
Weiterführend
Verwandte Fachartikel
Vertiefen Sie Ihr Wissen mit diesen thematisch passenden Artikeln.
Weitere Artikel in KI im Gesundheitswesen
Freies Informationsangebot zur eigenständigen Nutzung. Kein Fernunterricht im Sinne des FernUSG. Es findet keine Überwachung des Lernerfolgs statt.
Wissen vertiefen
Vertiefen Sie Ihr Wissen im E-Learning Kurs
Passend zu diesem Artikel bieten wir praxisnahe Online-Fortbildungen mit Zertifikat an. Lernen Sie flexibel und in Ihrem eigenen Tempo.
Kurse entdecken