Suche

Selbstcheck · 2 Minuten

KI-Verordnung-Check für Gesundheitseinrichtungen

Welche Pflichten der EU-KI-Verordnung gelten für Ihr KI-System? Beantworten Sie sechs Fragen und erfahren Sie sofort die voraussichtliche Einstufung, die Fristen und die nächsten Schritte.

Ihre Angaben bleiben in Ihrem Browser. Nichts wird übertragen oder gespeichert.

Der Check

Prüfen Sie jeweils ein KI-System, zum Beispiel einen KI-Chat, eine Spracherkennung oder eine Software zur Befundung.

01 Welche Rolle hat Ihre Einrichtung?
02 Wofür wird das KI-System vor allem eingesetzt?
03 Ist das System ein Medizinprodukt (CE-Kennzeichnung nach MDR)?

Das steht in der Zweckbestimmung und Gebrauchsanweisung des Herstellers.

04 Kommunizieren Patientinnen, Versicherte oder Angehörige direkt mit dem System?

Zum Beispiel ein Chatbot auf der Website oder ein KI-Telefonassistent.

05 Erkennt das System Emotionen von Beschäftigten?

Zum Beispiel aus Stimme, Mimik oder Texten – nicht gemeint sind medizinische Anwendungen bei Patientinnen und Patienten.

06 Gibt es für die Nutzerinnen und Nutzer Schulungen und Regeln zum KI-Einsatz?

So wird eingestuft

Die KI-Verordnung ordnet KI-Systeme nach ihrem Risiko ein. Maßgeblich ist, wofür ein System eingesetzt wird – nicht, welche Technik dahintersteckt. Unabhängig von der Stufe gilt für alle KI-Systeme die Pflicht zur KI-Kompetenz nach Art. 4.

StufeBeispiele im GesundheitswesenPflichten für BetreiberGilt seit / ab
Verbotene Praktiken (Art. 5)Emotionserkennung bei Beschäftigten am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen)Einsatz unzulässig2. Februar 2025
Hochrisiko-KI (Art. 6, Anhang I und III)KI als Medizinprodukt mit Prüfung durch eine Benannte Stelle; Triage von Notfallpatienten; Bewerberauswahl und Leistungsbewertung; Entscheidungen über Leistungen und Risikobewertung in der KrankenversicherungNutzung nach Gebrauchsanweisung, menschliche Aufsicht durch kompetente Personen, Protokolle aufbewahren, Eingabedaten prüfen, Vorfälle melden (Art. 26)Anhang III: 2. Dezember 2027 · Medizinprodukte: 2. August 2028
Transparenzpflichten (Art. 50)Chatbot auf der Website, KI-TelefonassistentMenschen müssen erkennen, dass sie mit einer KI sprechen (Pflicht des Anbieters; Betreiber prüfen sie bei der Auswahl)2. August 2026
Geringes RisikoCopilot, KI-Chat, Spracherkennung, Zusammenfassungen, Planung und VerwaltungKI-Kompetenz nach Art. 4; Datenschutz und Schweigepflicht gelten unabhängig davon2. Februar 2025

KI-Kompetenz nach Art. 4 KI-Verordnung KI im Krankenhaus Hochrisiko-KI im Glossar

Was jede Einrichtung tun sollte

  • 1

    KI-Systeme erfassen

    Ein Verzeichnis aller eingesetzten KI-Systeme mit Zweck, Anbieter, verantwortlicher Person und Einstufung – auch für Werkzeuge, die Beschäftigte selbst nutzen.

  • 2

    Regeln festlegen

    Eine KI-Richtlinie: welche Werkzeuge erlaubt sind, welche Daten eingegeben werden dürfen und wer Ergebnisse prüft.

  • 3

    Nach Rolle schulen

    Pflege, Ärzteschaft, Verwaltung und IT brauchen unterschiedliches Wissen. Schulungen und Teilnahme dokumentieren.

  • 4

    Hochrisiko vorbereiten

    Für Hochrisiko-Systeme menschliche Aufsicht benennen, Protokollierung klären und die Gebrauchsanweisung des Anbieters umsetzen – rechtzeitig vor 2027 bzw. 2028.

Häufige Fragen zur KI-Verordnung im Gesundheitswesen

Gilt die KI-Verordnung auch, wenn wir nur Copilot oder einen KI-Chat nutzen?

Ja. Wer ein KI-System in eigener Verantwortung beruflich einsetzt, ist Betreiber. Für alle KI-Systeme gilt seit dem 2. Februar 2025 Art. 4: Die Einrichtung muss Maßnahmen ergreifen, um die KI-Kompetenz der Beschäftigten zu unterstützen. Weitere Pflichten hängen davon ab, wofür das System eingesetzt wird.

Wann ist KI im Gesundheitswesen Hochrisiko-KI?

Vor allem in zwei Fällen: wenn sie ein Medizinprodukt ist oder in einem Medizinprodukt steckt, das von einer Benannten Stelle geprüft werden muss, und wenn sie in einem der Bereiche nach Anhang III eingesetzt wird – im Gesundheitswesen etwa für Personalentscheidungen, für Entscheidungen über Ansprüche auf öffentliche Leistungen, für die Risikobewertung in der Krankenversicherung oder für die Triage von Notfallpatientinnen und -patienten.

Welche Fristen gelten?

Verbotene Praktiken und die Pflicht zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Transparenzpflichten für KI, die mit Menschen interagiert, seit dem 2. August 2026. Nach der Änderung durch die Verordnung (EU) 2026/1744 gelten die Hochrisiko-Pflichten für die Bereiche nach Anhang III ab dem 2. Dezember 2027 und für KI in Medizinprodukten ab dem 2. August 2028.

Brauchen wir einen KI-Beauftragten oder ein Zertifikat?

Nein, beides schreibt die KI-Verordnung nicht vor. Hilfreich sind aber klare Zuständigkeiten, ein Verzeichnis der eingesetzten KI-Systeme, Schulungen nach Rolle und eine dokumentierte Richtlinie für den KI-Einsatz.

Was ist der Unterschied zwischen Anbieter und Betreiber?

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder in Betrieb. Betreiber setzen ein KI-System in eigener Verantwortung ein. Die meisten Krankenhäuser, Praxen und Kassen sind Betreiber; wer selbst KI entwickelt und einsetzt, kann zugleich Anbieter sein.

Ersetzt der Check eine Rechtsberatung?

Nein. Der Check gibt eine erste Orientierung auf Grundlage Ihrer Angaben. Die Einstufung eines KI-Systems hängt vom Einzelfall und von seiner Zweckbestimmung ab und sollte bei Unklarheiten juristisch geprüft werden.

Quellen und Hinweis

  1. Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3, 4, 5, 6, 26, 50, Anhang I und III
  2. Verordnung (EU) 2026/1744 („Digital Omnibus“) – Neufassung von Art. 4 und neue Fristen für Hochrisiko-KI
  3. Verordnung (EU) 2017/745 über Medizinprodukte (MDR)

Stand: November 2026. Der Check ersetzt keine Rechtsberatung.

Lassen Sie uns über Ihr Projekt sprechen.

Unverbindliches Erstgespräch zu Beratung, Projekt oder Schulung.

Gespräch anfrageninfo@digitalhealthexperts.de