KI-Codeassistenten im Krankenhaus: Copilot, Cursor, Claude Code – was ist erlaubt?
Ob Entwicklungsteams in Krankenhäusern, bei Krankenkassen und Health-IT-Dienstleistern GitHub Copilot, Cursor oder Claude Code nutzen dürfen, welche Daten dabei das Haus verlassen, wann Datenschutz und § 393 SGB V greifen und welche Regeln ein sicherer Einsatz braucht.
Kurze Antwort
KI-Codeassistenten wie GitHub Copilot, Cursor und Claude Code dürfen im Krankenhaus genutzt werden – mit Unternehmenslizenz und klaren Regeln. Quellcode ist in der Regel kein Gesundheitsdatum. Kritisch wird es, wenn Patientendaten, Zugangsdaten oder Produktivsysteme in Reichweite des Assistenten sind: Dann gelten DSGVO, die Schweigepflicht nach § 203 StGB und die Vorgaben für Cloud-Dienste nach § 393 SGB V. Entscheidend sind deshalb Vertrag, Konfiguration, eine Freigabe der Repositories und eine Prüfung jedes erzeugten Codes.
Stand: November 2026. Die Angaben zu den Anbietern beruhen auf deren eigenen Dokumentationen (abgerufen am 19.11.2026) und ändern sich häufig. Dieser Überblick ersetzt keine Rechtsberatung; die Datenschutzbeauftragte oder der Datenschutzbeauftragte des Hauses sollte jede Lösung vor dem Einsatz prüfen.
Das Wichtigste in Kürze
- Private und kostenlose Konten sind für Code des Hauses ungeeignet; Unternehmenslizenzen schließen das Training mit Kundendaten nach Angaben der Anbieter aus.
- Quellcode ohne Patientendaten fällt in der Regel nicht unter § 393 SGB V – echte Testdaten, Datenbankauszüge und Protokolle schon.
- KI-Agenten führen Befehle aus und greifen auf Werkzeuge zu: Sie gehören in abgegrenzte Entwicklungsumgebungen.
- Erzeugter Code wird geprüft wie Code eines neuen Teammitglieds – inklusive Abhängigkeiten, die die KI vorschlägt.
- Ohne Regeln nutzen Entwicklerinnen und Entwickler KI trotzdem, nur mit privaten Konten.
Welche Daten verlassen das Haus?
Kurze Antwort
Ein KI-Codeassistent schickt den Kontext, den er für eine Antwort braucht, an das Sprachmodell des Anbieters: die Eingabe, Ausschnitte des geöffneten Codes und bei Agenten auch Dateiinhalte und Ausgaben ausgeführter Befehle.
Das gilt auch für Werkzeuge, die lokal laufen. Anthropic beschreibt das für Claude Code ausdrücklich: Das Programm läuft auf dem Rechner der Entwicklerin oder des Entwicklers, sendet für die Antworten aber Eingaben und Ausgaben über das Netz an das Modell. Zusätzlich speichert Claude Code Sitzungsverläufe lokal im Klartext. Welche Daten tatsächlich übertragen werden, hängt also davon ab, was im Projektordner liegt und worauf der Assistent zugreifen darf.
Typische Risiken im Krankenhaus:
- Echte Patientendaten in Testdaten, Datenbankauszügen, Protokollen oder Fehlermeldungen, die im Repository liegen oder in den Chat kopiert werden.
- Zugangsdaten im Code oder in Konfigurationsdateien, etwa für KIS-Schnittstellen oder Datenbanken.
- Agenten mit Zugriff auf Produktivsysteme, die per Befehl oder Werkzeug Daten auslesen können.
Welche Regeln gelten?
Kurze Antwort
Für Code ohne Personenbezug vor allem Vertragsrecht, IT-Sicherheit und Urheberrecht. Sobald Gesundheitsdaten im Spiel sind, kommen Datenschutz, Schweigepflicht und § 393 SGB V hinzu.
| Regel | Was sie verlangt | Folge für KI-Codeassistenten |
|---|---|---|
| DSGVO, Art. 9, 28 und 44 ff. | Rechtsgrundlage für Gesundheitsdaten, Vertrag zur Auftragsverarbeitung, Regeln für Drittländer | Auftragsverarbeitungsvertrag mit dem Anbieter; keine Gesundheitsdaten ohne Prüfung |
| § 203 StGB | Weitergabe an Dienstleister nur, soweit erforderlich, und nur, wenn diese zur Geheimhaltung verpflichtet sind | Patientendaten im Prompt können ein unbefugtes Offenbaren sein – auch für die Beschäftigten selbst |
| § 393 SGB V | Gesundheits- und Sozialdaten in der Cloud nur im Inland, in der EU oder gleichgestellten Staaten, mit aktuellem C5-Testat | Greift, sobald der Assistent Gesundheitsdaten verarbeitet – nicht bei reinem Quellcode |
| KI-Verordnung | KI-Kompetenz der Beschäftigten; Codeassistenten sind in der Regel keine Hochrisiko-Systeme | Schulung vor der Freigabe – mehr im Artikel KI-Kompetenz nach der KI-Verordnung |
| Mitbestimmung | Beteiligung bei Systemen, die Leistung oder Verhalten erfassen können | Nutzungsdaten der Assistenten mit Betriebs- oder Personalrat klären |
Was § 393 SGB V im Einzelnen verlangt, erklärt der Artikel § 393 SGB V: Cloud im Gesundheitswesen und C5-Testat. Die Grundlagen zu Datenschutz und Schweigepflicht bei KI-Diensten stehen im Artikel ChatGPT im Krankenhaus.
Copilot, Cursor und Claude Code im Vergleich
Kurze Antwort
Alle drei bieten Unternehmenstarife ohne Training mit Kundendaten. Sie unterscheiden sich bei Datenresidenz, Speicherfristen und darin, wie weit der Assistent selbst handelt.
| GitHub Copilot Business / Enterprise | Cursor (Teams / Business) | Claude Code (Team, Enterprise, API) | |
|---|---|---|---|
| Arbeitsweise | Vorschläge und Chat in der Entwicklungsumgebung, zusätzlich Agenten | Eigene Entwicklungsumgebung mit KI-Agent | Agent im Terminal, liest Dateien und führt Befehle aus |
| Training mit Kundendaten | nein, Business und Enterprise ausdrücklich ausgenommen | nein im Privacy Mode, den Administratoren für das Team einschalten können | nein unter kommerziellen Bedingungen, außer der Kunde willigt ein |
| Speicherung | je nach Funktion unterschiedlich; Fristen in der Dokumentation prüfen | Zero-Data-Retention-Vereinbarungen mit den Modellanbietern | standardmäßig 30 Tage; ohne Speicherung (Zero Data Retention) für berechtigte Enterprise-Konten |
| Verarbeitungsort | wählbare Datenresidenz USA oder EU seit April 2026, von Administratoren zu aktivieren | Server in verschiedenen Ländern, darunter die USA | beim Anbieter; alternativ über Amazon Bedrock, Google Vertex AI oder Microsoft Foundry |
| Nachweise und Verträge | Datenschutzvereinbarung von GitHub bzw. Microsoft | SOC-2-Typ-2-Bericht auf Anfrage | Auftragsverarbeitungszusatz mit EU-Standardvertragsklauseln |
| Steuerung | Inhalte, Dateien und Repositories ausschließen; Filter für Vorschläge, die öffentlichem Code entsprechen | Teamrichtlinien für den Privacy Mode | Berechtigungen für Befehle und Werkzeuge |
Die Angebote ändern sich schnell. Prüfen Sie vor der Freigabe die aktuellen Vertrags- und Datenschutzunterlagen – insbesondere, ob Funktionen wie das Ausschließen von Inhalten auch für Agenten und Kommandozeilenwerkzeuge gelten.
Was empfehlen BSI und ANSSI?
Kurze Antwort
Das BSI und die französische Cybersicherheitsbehörde ANSSI warnen gemeinsam: KI-Codeassistenten ersetzen keine erfahrenen Entwicklerinnen und Entwickler und erzeugen nicht verlässlich sicheren Code.
Als besondere Risiken nennen die Behörden unter anderem erfundene Softwarepakete, die Angreifer unter genau diesem Namen veröffentlichen können, indirekte Prompt-Injection über manipulierte Inhalte im Kontext und vergiftete Trainings- oder Kontextdaten. Daraus folgt: Abhängigkeiten, die eine KI vorschlägt, werden wie jede neue Abhängigkeit geprüft, und erzeugter Code durchläuft dieselben Reviews, Tests und Sicherheitsprüfungen wie anderer Code.
Was ist bei Medizinprodukte-Software anders?
Kurze Antwort
Wenn Software als Medizinprodukt gilt, muss jede Änderung im Entwicklungsprozess nachvollziehbar verifiziert werden – auch Code, den eine KI vorgeschlagen hat.
Der Einsatz eines Assistenten ändert nichts an Anforderungen, Tests, Reviews und Dokumentation. Legen Sie fest, wie KI-erzeugter Code im Qualitätsmanagement behandelt wird, und dokumentieren Sie die eingesetzten Werkzeuge.
Checkliste: KI-Codeassistenten sicher einführen
- Bestand erfassen: Welche Assistenten nutzen Entwicklerinnen und Entwickler schon – auch mit privaten Konten?
- Werkzeug und Tarif wählen: Unternehmenslizenz mit Auftragsverarbeitung, kein Training mit Kundendaten, passender Verarbeitungsort.
- Freigabe festlegen: welche Repositories, Dateien und Werkzeuge der Assistent nutzen darf; sensible Bereiche ausschließen.
- Daten bereinigen: keine echten Patientendaten in Testdaten, Protokollen und Beispielen; Zugangsdaten in einen Tresor statt in den Code.
- Agenten abgrenzen: nur in Entwicklungsumgebungen ohne Zugang zu Produktivsystemen; Befehle und Werkzeuge freigeben, Ausführungen protokollieren.
- Qualität sichern: Code-Review, Tests und Sicherheitsscans für jeden KI-Beitrag; vorgeschlagene Abhängigkeiten prüfen.
- Beteiligen und schulen: Datenschutz, Informationssicherheit und Mitarbeitervertretung einbinden; Team vor der Freigabe schulen.
- Regel aufschreiben und überprüfen: eine kurze KI-Richtlinie für die Entwicklung, die regelmäßig an neue Funktionen angepasst wird.
Fazit
Ein Verbot von KI-Codeassistenten hält Entwicklungsteams selten von der Nutzung ab – es verlagert sie in private Konten. Besser ist ein klarer Rahmen: Unternehmenslizenz, bereinigte Repositories ohne Patientendaten, abgegrenzte Agenten und Reviews für jeden KI-Beitrag. Dann beschleunigen Copilot, Cursor und Claude Code die Entwicklung auch im Krankenhaus, ohne Datenschutz und Sicherheit zu gefährden.
Wie die drei Werkzeuge im Alltag funktionieren und wann welches passt, zeigt das Seminar KI Coding mit Cursor, GitHub Copilot und Claude Code. Wie Sie KI-generierten Code sicher in Ihre Pipeline einbinden, behandelt AI Code Generation im DevSecOps Lifecycle. Weitere Kurse nach Rolle schlägt der Software-Kursberater vor.
Quellen
- § 393 SGB V – Cloud-Einsatz im Gesundheitswesen. Bundesministerium der Justiz.
- § 203 StGB – Verletzung von Privatgeheimnissen. Bundesministerium der Justiz.
- Verordnung (EU) 2016/679 (DSGVO). Art. 9, 28, 44 ff.
- AI Coding Assistants. BSI und ANSSI, Oktober 2024 (englisch).
- Updates to our Privacy Statement and Terms of Service. GitHub Changelog, 25.03.2026.
- Copilot data residency in US and EU. GitHub Changelog, 13.04.2026.
- Code referencing in GitHub Copilot und Inhalte von Copilot ausschließen. GitHub Docs.
- Security, Data Use und Privacy Policy. Cursor, abgerufen am 19.11.2026.
- Data usage. Claude Code Docs, Anthropic, abgerufen am 19.11.2026.
- Data Processing Addendum. Anthropic.
Passende Schulungen
Vertiefen Sie das Thema mit Ihrem Team – im offenen Seminar oder als Inhouse-Schulung.
- KI Coding mit Cursor, GitHub Copilot und Claude Code1 Tag · nächster Termin 19.11.2026
- GH-300 GitHub Copilot (GH-300T00)1 Tag · nächster Termin 19.11.2026
- AI Code Generation im DevSecOps Lifecycle2 Tage · nächster Termin 19.–20.11.2026
- GH-500 GitHub Advanced Security (GH-500T00)1 Tag · nächster Termin 20.11.2026
- Alle Seminare: Softwareentwicklung & DevOpsTermine, Inhalte und Inhouse-Angebote
- Alle Seminare: Künstliche IntelligenzTermine, Inhalte und Inhouse-Angebote