PflichtMit Zertifikat3h Fortbildung
Hygiene & Infektionsschutz
ca. 3 StundenKurs ansehen →
Der AI Act im Überblick
Mit der Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz dem sogenannten AI Act hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für den Einsatz von KI-Systemen geschaffen. Für das Gesundheitswesen ist diese Verordnung von besonderer Bedeutung, da viele KI-Anwendungen in der Medizin und Pflege als Hochrisiko-Systeme eingestuft werden und damit strengen Anforderungen unterliegen. Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Gesundheit, Sicherheit oder Grundrechte, desto strenger sind die regulatorischen Anforderungen. Für Gesundheitseinrichtungen bedeutet dies, dass sie sich frühzeitig mit der Verordnung auseinandersetzen müssen, um den Einsatz bestehender und geplanter KI-Systeme rechtskonform zu gestalten. Die Verordnung betrifft nicht nur die Hersteller von KI-Systemen, sondern ausdrücklich auch die Betreiber, also Krankenhäuser, Pflegeeinrichtungen und andere Akteure im Gesundheitswesen, die KI-Anwendungen einsetzen.
1
Minimales Risiko
KI-Systeme mit minimalem Risiko unterliegen keinen besonderen regulatorischen Anforderungen. Im Gesundheitswesen fallen hierunter beispielsweise KI-gestützte Spam-Filter in der E-Mail-Kommunikation, einfache Chatbots für allgemeine Informationen auf der Webseite der Einrichtung oder KI-basierte Textverarbeitungsprogramme für die Verwaltung. Diese Systeme können frei eingesetzt werden, wobei freiwillige Verhaltenskodizes empfohlen werden.
2
Begrenztes Risiko
Für KI-Systeme mit begrenztem Risiko gelten spezifische Transparenzpflichten. Nutzerinnen und Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren. Im Gesundheitswesen betrifft dies beispielsweise Chatbots für Terminvereinbarung oder allgemeine Patienteninformation: Menschen müssen erkennen, dass sie mit einer KI sprechen (Art. 50 KI-VO).
3
Hohes Risiko
Hochrisiko-KI-Systeme unterliegen den umfangreichsten Anforderungen des AI Act. Im Gesundheitswesen gehören dazu die Triage von Patienten in der Notfallversorgung (Anhang III Nr. 5 Buchst. d KI-VO, Ausnahmen nur in den engen Fällen des Art. 6 Abs. 3) und KI in Medizinprodukten wie Bilddiagnostik oder Dosierungssoftware, soweit sie der Konformitätsbewertung durch eine benannte Stelle unterliegen (Art. 6 Abs. 1 mit Anhang I). Für diese Systeme gelten strenge Anforderungen an Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht und Cybersicherheit.
4
Unannehmbares Risiko
KI-Systeme mit unannehmbarem Risiko sind verboten. Verboten sind unter anderem manipulative Systeme, soziale Bewertung (Social Scoring) und die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, etwa bei Pflegekräften oder Auszubildenden. Ausgenommen sind Systeme aus medizinischen oder Sicherheitsgründen. Die Verbote gelten seit 2. Februar 2025.
Auswirkungen auf Gesundheitseinrichtungen
Risikobewertung
Gesundheitseinrichtungen müssen für jedes eingesetzte KI-System eine systematische Risikobewertung durchführen und dokumentieren. Dazu gehört die Identifikation potenzieller Risiken für Patientensicherheit, Datenschutz und Grundrechte sowie die Festlegung geeigneter Minderungsmaßnahmen. Die Risikobewertung muss regelmäßig aktualisiert werden, insbesondere wenn das KI-System verändert oder in neuen Kontexten eingesetzt wird.
Transparenzpflicht
Die Verordnung schreibt umfassende Transparenz vor: Patientinnen und Patienten müssen über den Einsatz von KI-Systemen informiert werden, die sie betreffen. Gleichzeitig müssen Gesundheitseinrichtungen gegenüber Aufsichtsbehörden offenlegen, welche KI-Systeme sie einsetzen und wie die Einhaltung der regulatorischen Anforderungen sichergestellt wird. Auch die interne Dokumentation der Entscheidungsprozesse muss nachvollziehbar sein.
Datenqualität
Hochrisiko-KI-Systeme dürfen nur mit qualitativ hochwertigen Daten trainiert und betrieben werden. Im Gesundheitswesen bedeutet dies, dass Trainingsdaten repräsentativ, aktuell und frei von diskriminierenden Verzerrungen sein müssen. Gesundheitseinrichtungen tragen Mitverantwortung für die Datenqualität, insbesondere wenn sie eigene Daten für das Training oder die Anpassung von KI-Systemen bereitstellen.
Menschliche Aufsicht
Ein zentrales Prinzip des AI Act ist die menschliche Aufsicht über KI-Systeme. Im Gesundheitswesen bedeutet dies, dass KI-Systeme grundsätzlich als Unterstützungs- und nicht als Entscheidungssysteme konzipiert und eingesetzt werden müssen. Ärztinnen, Ärzte und Pflegefachpersonen müssen in der Lage sein, KI-Empfehlungen kritisch zu prüfen, zu überstimmen und im Bedarfsfall das System abzuschalten. Die Letztverantwortung für klinische Entscheidungen bleibt immer beim Menschen.
Regulierung ist kein Innovationshemmer sie ist die Grundlage für Vertrauen in Technologien, die über Gesundheit und Leben entscheiden.
Zeitplan und Fristen der EU-KI-Verordnung:
- Seit 2. Februar 2025: Verbote für KI mit unannehmbarem Risiko.
- Seit 2. August 2025: Regeln für KI-Modelle mit allgemeinem Verwendungszweck.
- Seit 2. August 2026: allgemeine Geltung, unter anderem Transparenzpflichten.
- Ab 2. Dezember 2026: zwei weitere Verbote.
- Ab 2. Dezember 2027: Pflichten für Hochrisiko-KI nach Anhang III.
- Ab 2. August 2028: Pflichten für Hochrisiko-KI in Produkten nach Anhang I, etwa Medizinprodukten (Verordnung (EU) 2026/1744).
Systeme, die vor dem jeweiligen Geltungsbeginn in Verkehr gebracht oder in Betrieb genommen wurden, fallen nur bei erheblicher Änderung darunter (Art. 111 Abs. 2 KI-VO in der Fassung der Verordnung (EU) 2026/1744).
ℹ️
Tipp: Beginnen Sie jetzt mit einer Bestandsaufnahme Ihrer KI-Systeme. Erfassen Sie alle Anwendungen, die auf künstlicher Intelligenz basieren, klassifizieren Sie deren Risikoniveau und identifizieren Sie Handlungsbedarf. Eine frühzeitige Auseinandersetzung mit der Verordnung verschafft Ihnen den notwendigen Vorlauf für die Umsetzung und vermeidet kurzfristige Compliance-Engpässe.
Haben wir eine vollständige Bestandsaufnahme aller KI-Systeme in unserer Einrichtung durchgeführt?
Sind alle eingesetzten KI-Systeme hinsichtlich ihrer Risikokategorie klassifiziert?
Existiert ein Verantwortlicher oder ein Team für die KI-Compliance in unserer Einrichtung?
Sind Patientinnen und Patienten darüber informiert, wenn KI-Systeme bei ihrer Versorgung zum Einsatz kommen?
Verfügen unsere Mitarbeitenden über ausreichende KI-Kompetenz, um die menschliche Aufsichtspflicht zu erfüllen?
Sind die Prozesse für die Risikobewertung und regelmäßige Überprüfung von KI-Systemen etabliert?
Werden die Datenqualitätsanforderungen für alle Hochrisiko-KI-Systeme eingehalten?
Sind Eskalationsprozesse definiert für den Fall, dass ein KI-System fehlerhafte Ergebnisse liefert?
Gibt es einen konkreten Zeitplan für die Umsetzung aller Compliance-Anforderungen bis zu den Stichtagen 2. Dezember 2027 (Anhang III) und 2. August 2028 (Medizinprodukte)?
DT
Dennis Christoph Tefett
Psychologie, Erziehungs- & Sozialwissenschaften (M.Ed.) | Gesundheitsmanager (B.A.). Gründer des Refresher Zentrums. Über 300 Führungskräfte und Praxisanleitende geschult.
Mehr über den Autor → Gratis für Azubis
Noch nicht bereit fürs Abo? Hol dir den Crashkurs gratis.
Fünf Tage, fünf kurze Mails von Dennis. Jeden Tag ein Examensthema, so erklärt, dass es hängenbleibt. Dazu der Examens-Kompass als Geschenk.
- 1Der Pflegeprozess als roter Faden
- 2Medikamente verstehen statt pauken
- 3Notfälle früh erkennen
- 4Recht und Ethik ohne Angst
- 5Wie dein Gehirn unter Druck lernt
Fachbereich entdecken
Gefällt Ihnen dieser Artikel?
Erhalten Sie neue Fachartikel, Seminar-Updates und exklusive Praxistipps direkt in Ihr Postfach.
Online-Fortbildungen
Passende Kurse zu diesem Thema
Vertiefen Sie Ihr Wissen mit unseren zertifizierten Online-Fortbildungen.
Weiterführend
Verwandte Fachartikel
Vertiefen Sie Ihr Wissen mit diesen thematisch passenden Artikeln.
Weitere Artikel in Recht & Gesetz
Freies Informationsangebot zur eigenständigen Nutzung. Kein Fernunterricht im Sinne des FernUSG. Es findet keine Überwachung des Lernerfolgs statt.
Wissen vertiefen
Vertiefen Sie Ihr Wissen im E-Learning Kurs
Passend zu diesem Artikel bieten wir praxisnahe Online-Fortbildungen mit Zertifikat an. Lernen Sie flexibel und in Ihrem eigenen Tempo.
Kurse entdecken