KI-Codeassistenten im Krankenhaus: Copilot, Cursor, Claude Code – was ist erlaubt?

Ob Entwicklungsteams in Krankenhäusern, bei Krankenkassen und Health-IT-Dienstleistern GitHub Copilot, Cursor oder Claude Code nutzen dürfen, welche Daten dabei das Haus verlassen, wann Datenschutz und § 393 SGB V greifen und welche Regeln ein sicherer Einsatz braucht.

Foto: Michael DeinhardGeschäftsführer, Berater und Trainer

Veröffentlicht am 7 Min. Lesezeit

Kurze Antwort

KI-Codeassistenten wie GitHub Copilot, Cursor und Claude Code dürfen im Krankenhaus genutzt werden – mit Unternehmenslizenz und klaren Regeln. Quellcode ist in der Regel kein Gesundheitsdatum. Kritisch wird es, wenn Patientendaten, Zugangsdaten oder Produktivsysteme in Reichweite des Assistenten sind: Dann gelten DSGVO, die Schweigepflicht nach § 203 StGB und die Vorgaben für Cloud-Dienste nach § 393 SGB V. Entscheidend sind deshalb Vertrag, Konfiguration, eine Freigabe der Repositories und eine Prüfung jedes erzeugten Codes.

Stand: November 2026. Die Angaben zu den Anbietern beruhen auf deren eigenen Dokumentationen (abgerufen am 19.11.2026) und ändern sich häufig. Dieser Überblick ersetzt keine Rechtsberatung; die Datenschutzbeauftragte oder der Datenschutzbeauftragte des Hauses sollte jede Lösung vor dem Einsatz prüfen.

Das Wichtigste in Kürze

  • Private und kostenlose Konten sind für Code des Hauses ungeeignet; Unternehmenslizenzen schließen das Training mit Kundendaten nach Angaben der Anbieter aus.
  • Quellcode ohne Patientendaten fällt in der Regel nicht unter § 393 SGB V – echte Testdaten, Datenbankauszüge und Protokolle schon.
  • KI-Agenten führen Befehle aus und greifen auf Werkzeuge zu: Sie gehören in abgegrenzte Entwicklungsumgebungen.
  • Erzeugter Code wird geprüft wie Code eines neuen Teammitglieds – inklusive Abhängigkeiten, die die KI vorschlägt.
  • Ohne Regeln nutzen Entwicklerinnen und Entwickler KI trotzdem, nur mit privaten Konten.

Welche Daten verlassen das Haus?

Kurze Antwort

Ein KI-Codeassistent schickt den Kontext, den er für eine Antwort braucht, an das Sprachmodell des Anbieters: die Eingabe, Ausschnitte des geöffneten Codes und bei Agenten auch Dateiinhalte und Ausgaben ausgeführter Befehle.

Das gilt auch für Werkzeuge, die lokal laufen. Anthropic beschreibt das für Claude Code ausdrücklich: Das Programm läuft auf dem Rechner der Entwicklerin oder des Entwicklers, sendet für die Antworten aber Eingaben und Ausgaben über das Netz an das Modell. Zusätzlich speichert Claude Code Sitzungsverläufe lokal im Klartext. Welche Daten tatsächlich übertragen werden, hängt also davon ab, was im Projektordner liegt und worauf der Assistent zugreifen darf.

Typische Risiken im Krankenhaus:

  • Echte Patientendaten in Testdaten, Datenbankauszügen, Protokollen oder Fehlermeldungen, die im Repository liegen oder in den Chat kopiert werden.
  • Zugangsdaten im Code oder in Konfigurationsdateien, etwa für KIS-Schnittstellen oder Datenbanken.
  • Agenten mit Zugriff auf Produktivsysteme, die per Befehl oder Werkzeug Daten auslesen können.

Welche Regeln gelten?

Kurze Antwort

Für Code ohne Personenbezug vor allem Vertragsrecht, IT-Sicherheit und Urheberrecht. Sobald Gesundheitsdaten im Spiel sind, kommen Datenschutz, Schweigepflicht und § 393 SGB V hinzu.

Regel Was sie verlangt Folge für KI-Codeassistenten
DSGVO, Art. 9, 28 und 44 ff. Rechtsgrundlage für Gesundheitsdaten, Vertrag zur Auftragsverarbeitung, Regeln für Drittländer Auftragsverarbeitungsvertrag mit dem Anbieter; keine Gesundheitsdaten ohne Prüfung
§ 203 StGB Weitergabe an Dienstleister nur, soweit erforderlich, und nur, wenn diese zur Geheimhaltung verpflichtet sind Patientendaten im Prompt können ein unbefugtes Offenbaren sein – auch für die Beschäftigten selbst
§ 393 SGB V Gesundheits- und Sozialdaten in der Cloud nur im Inland, in der EU oder gleichgestellten Staaten, mit aktuellem C5-Testat Greift, sobald der Assistent Gesundheitsdaten verarbeitet – nicht bei reinem Quellcode
KI-Verordnung KI-Kompetenz der Beschäftigten; Codeassistenten sind in der Regel keine Hochrisiko-Systeme Schulung vor der Freigabe – mehr im Artikel KI-Kompetenz nach der KI-Verordnung
Mitbestimmung Beteiligung bei Systemen, die Leistung oder Verhalten erfassen können Nutzungsdaten der Assistenten mit Betriebs- oder Personalrat klären

Was § 393 SGB V im Einzelnen verlangt, erklärt der Artikel § 393 SGB V: Cloud im Gesundheitswesen und C5-Testat. Die Grundlagen zu Datenschutz und Schweigepflicht bei KI-Diensten stehen im Artikel ChatGPT im Krankenhaus.

Copilot, Cursor und Claude Code im Vergleich

Kurze Antwort

Alle drei bieten Unternehmenstarife ohne Training mit Kundendaten. Sie unterscheiden sich bei Datenresidenz, Speicherfristen und darin, wie weit der Assistent selbst handelt.

GitHub Copilot Business / Enterprise Cursor (Teams / Business) Claude Code (Team, Enterprise, API)
Arbeitsweise Vorschläge und Chat in der Entwicklungsumgebung, zusätzlich Agenten Eigene Entwicklungsumgebung mit KI-Agent Agent im Terminal, liest Dateien und führt Befehle aus
Training mit Kundendaten nein, Business und Enterprise ausdrücklich ausgenommen nein im Privacy Mode, den Administratoren für das Team einschalten können nein unter kommerziellen Bedingungen, außer der Kunde willigt ein
Speicherung je nach Funktion unterschiedlich; Fristen in der Dokumentation prüfen Zero-Data-Retention-Vereinbarungen mit den Modellanbietern standardmäßig 30 Tage; ohne Speicherung (Zero Data Retention) für berechtigte Enterprise-Konten
Verarbeitungsort wählbare Datenresidenz USA oder EU seit April 2026, von Administratoren zu aktivieren Server in verschiedenen Ländern, darunter die USA beim Anbieter; alternativ über Amazon Bedrock, Google Vertex AI oder Microsoft Foundry
Nachweise und Verträge Datenschutzvereinbarung von GitHub bzw. Microsoft SOC-2-Typ-2-Bericht auf Anfrage Auftragsverarbeitungszusatz mit EU-Standardvertragsklauseln
Steuerung Inhalte, Dateien und Repositories ausschließen; Filter für Vorschläge, die öffentlichem Code entsprechen Teamrichtlinien für den Privacy Mode Berechtigungen für Befehle und Werkzeuge

Die Angebote ändern sich schnell. Prüfen Sie vor der Freigabe die aktuellen Vertrags- und Datenschutzunterlagen – insbesondere, ob Funktionen wie das Ausschließen von Inhalten auch für Agenten und Kommandozeilenwerkzeuge gelten.

Was empfehlen BSI und ANSSI?

Kurze Antwort

Das BSI und die französische Cybersicherheitsbehörde ANSSI warnen gemeinsam: KI-Codeassistenten ersetzen keine erfahrenen Entwicklerinnen und Entwickler und erzeugen nicht verlässlich sicheren Code.

Als besondere Risiken nennen die Behörden unter anderem erfundene Softwarepakete, die Angreifer unter genau diesem Namen veröffentlichen können, indirekte Prompt-Injection über manipulierte Inhalte im Kontext und vergiftete Trainings- oder Kontextdaten. Daraus folgt: Abhängigkeiten, die eine KI vorschlägt, werden wie jede neue Abhängigkeit geprüft, und erzeugter Code durchläuft dieselben Reviews, Tests und Sicherheitsprüfungen wie anderer Code.

Was ist bei Medizinprodukte-Software anders?

Kurze Antwort

Wenn Software als Medizinprodukt gilt, muss jede Änderung im Entwicklungsprozess nachvollziehbar verifiziert werden – auch Code, den eine KI vorgeschlagen hat.

Der Einsatz eines Assistenten ändert nichts an Anforderungen, Tests, Reviews und Dokumentation. Legen Sie fest, wie KI-erzeugter Code im Qualitätsmanagement behandelt wird, und dokumentieren Sie die eingesetzten Werkzeuge.

Checkliste: KI-Codeassistenten sicher einführen

  1. Bestand erfassen: Welche Assistenten nutzen Entwicklerinnen und Entwickler schon – auch mit privaten Konten?
  2. Werkzeug und Tarif wählen: Unternehmenslizenz mit Auftragsverarbeitung, kein Training mit Kundendaten, passender Verarbeitungsort.
  3. Freigabe festlegen: welche Repositories, Dateien und Werkzeuge der Assistent nutzen darf; sensible Bereiche ausschließen.
  4. Daten bereinigen: keine echten Patientendaten in Testdaten, Protokollen und Beispielen; Zugangsdaten in einen Tresor statt in den Code.
  5. Agenten abgrenzen: nur in Entwicklungsumgebungen ohne Zugang zu Produktivsystemen; Befehle und Werkzeuge freigeben, Ausführungen protokollieren.
  6. Qualität sichern: Code-Review, Tests und Sicherheitsscans für jeden KI-Beitrag; vorgeschlagene Abhängigkeiten prüfen.
  7. Beteiligen und schulen: Datenschutz, Informationssicherheit und Mitarbeitervertretung einbinden; Team vor der Freigabe schulen.
  8. Regel aufschreiben und überprüfen: eine kurze KI-Richtlinie für die Entwicklung, die regelmäßig an neue Funktionen angepasst wird.

Fazit

Ein Verbot von KI-Codeassistenten hält Entwicklungsteams selten von der Nutzung ab – es verlagert sie in private Konten. Besser ist ein klarer Rahmen: Unternehmenslizenz, bereinigte Repositories ohne Patientendaten, abgegrenzte Agenten und Reviews für jeden KI-Beitrag. Dann beschleunigen Copilot, Cursor und Claude Code die Entwicklung auch im Krankenhaus, ohne Datenschutz und Sicherheit zu gefährden.

Wie die drei Werkzeuge im Alltag funktionieren und wann welches passt, zeigt das Seminar KI Coding mit Cursor, GitHub Copilot und Claude Code. Wie Sie KI-generierten Code sicher in Ihre Pipeline einbinden, behandelt AI Code Generation im DevSecOps Lifecycle. Weitere Kurse nach Rolle schlägt der Software-Kursberater vor.

Quellen

  1. § 393 SGB V – Cloud-Einsatz im Gesundheitswesen. Bundesministerium der Justiz.
  2. § 203 StGB – Verletzung von Privatgeheimnissen. Bundesministerium der Justiz.
  3. Verordnung (EU) 2016/679 (DSGVO). Art. 9, 28, 44 ff.
  4. AI Coding Assistants. BSI und ANSSI, Oktober 2024 (englisch).
  5. Updates to our Privacy Statement and Terms of Service. GitHub Changelog, 25.03.2026.
  6. Copilot data residency in US and EU. GitHub Changelog, 13.04.2026.
  7. Code referencing in GitHub Copilot und Inhalte von Copilot ausschließen. GitHub Docs.
  8. Security, Data Use und Privacy Policy. Cursor, abgerufen am 19.11.2026.
  9. Data usage. Claude Code Docs, Anthropic, abgerufen am 19.11.2026.
  10. Data Processing Addendum. Anthropic.

Passende Schulungen

Vertiefen Sie das Thema mit Ihrem Team – im offenen Seminar oder als Inhouse-Schulung.

Häufige Fragen

Dürfen Krankenhäuser GitHub Copilot, Cursor oder Claude Code nutzen?

Ja, wenn die Nutzung geregelt ist: eine Unternehmenslizenz mit Vertrag zur Auftragsverarbeitung, eine Freigabe, welche Repositories und Werkzeuge der Assistent nutzen darf, keine Patientendaten oder Zugangsdaten im Code und eine Prüfung des erzeugten Codes vor dem Einsatz. Private Konten sind für Code des Hauses nicht geeignet.

Gilt § 393 SGB V für KI-Codeassistenten?

§ 393 SGB V regelt die Verarbeitung von Gesundheits- und Sozialdaten in Cloud-Diensten. Quellcode ohne solche Daten fällt in der Regel nicht darunter. Sobald der Assistent aber Gesundheitsdaten sieht – etwa echte Testdaten, Datenbankauszüge oder Protokolle –, gelten die Anforderungen, unter anderem Verarbeitung in der EU oder einem gleichgestellten Staat und ein aktuelles C5-Testat.

Werden Code und Eingaben zum Training der KI verwendet?

Bei den Unternehmensangeboten nach Angaben der Anbieter nicht: GitHub nimmt Copilot Business und Enterprise ausdrücklich vom Training aus, Cursor trainiert im Privacy Mode nicht mit Kundendaten, und Anthropic trainiert unter kommerziellen Bedingungen nicht mit Code oder Eingaben aus Claude Code. Bei privaten und kostenlosen Tarifen kann das anders sein.

Wo werden die Daten verarbeitet?

Das unterscheidet sich je Anbieter und Vertrag. GitHub bietet für Copilot seit April 2026 eine wählbare EU-Datenresidenz an, die Administratoren aktivieren müssen. Cursor verarbeitet Daten nach eigener Datenschutzerklärung auf Servern in verschiedenen Ländern, darunter die USA. Claude Code lässt sich auch über Cloud-Plattformen wie Amazon Bedrock, Google Vertex AI oder Microsoft Foundry nutzen, deren Regionen der Kunde wählt.

Darf ein KI-Agent wie Claude Code Befehle im Krankenhausnetz ausführen?

Nur in klar abgegrenzten Umgebungen. Agenten lesen Dateien, führen Befehle aus und können über Werkzeuge auf Systeme zugreifen. Sie gehören in Entwicklungsumgebungen ohne Zugang zu Produktivsystemen, Patientendaten oder Zugangsdaten – mit freigegebenen Werkzeugen und Protokollierung.

Muss die Mitarbeitervertretung beteiligt werden?

Häufig ja. KI-Codeassistenten erfassen Nutzungsdaten, die sich auf Leistung oder Verhalten einzelner Beschäftigter beziehen lassen. Dann greifen die Mitbestimmungsrechte von Betriebsrat oder Personalrat. Klären Sie das vor der Einführung.

Lassen Sie uns über Ihr Projekt sprechen.

Unverbindliches Erstgespräch zu Beratung, Projekt oder Schulung.