Generative KI in der Krankenversicherung: Einsatzfelder und Regeln

Kurze Antwort

Generative KI in der Krankenversicherung entlastet vor allem dort, wo viel Text anfällt: im Versichertenservice, im Posteingang, bei der Vorbereitung von Anträgen und bei der Suche in internen Regelwerken. In der Leistungsprüfung bereitet sie Unterlagen auf, entscheidet aber nicht – die Verantwortung bleibt bei den Beschäftigten. Den Rahmen setzen Sozialgeheimnis und Sozialdatenschutz, die DSGVO, die KI-Verordnung, § 393 SGB V für Cloud-Dienste und die Aufsicht durch BAS oder Länder.

Stand: November 2026

Das Wichtigste in Kürze

• Generative KI erzeugt und verarbeitet Texte. Ihr Nutzen liegt in Service, Posteingang, Sachbearbeitung und Wissenssuche, nicht in der Leistungsentscheidung.
• Sozialdaten unterliegen dem Sozialgeheimnis (§ 35 SGB I). Externe KI-Dienste sind Auftragsverarbeitung nach § 80 SGB X und vorher der Aufsicht anzuzeigen.
• Für Cloud-Dienste mit Gesundheits- und Sozialdaten gilt § 393 SGB V mit Verarbeitung in der EU und aktuellem C5-Testat.
• KI, die über Ansprüche auf Leistungen mitentscheidet, ist nach der KI-Verordnung hochriskant; diese Pflichten gelten ab dem 2. Dezember 2027.
• Vollautomatisierte Bescheide sind nur eng begrenzt zulässig (§ 31a SGB X, Art. 22 DSGVO). Der Mensch in der Schleife ist Pflicht, nicht Kür.
• Erfolgreiche Einführungen beginnen mit einem klar abgegrenzten Anwendungsfall, geprüften Daten und geschulten Beschäftigten.

Wo setzen Krankenkassen generative KI ein?

Kurze Antwort

In Aufgaben, die von Sprache und Dokumenten geprägt sind. Die vier wichtigsten Felder sind Versichertenservice, Posteingang und Antragsbearbeitung, Wissenssuche und die Unterstützung der Leistungsprüfung.

Einsatzfeld	Was die KI übernimmt	Wer entscheidet
Versichertenservice	Antwortentwürfe für E-Mails und Kontaktformulare, Zusammenfassung von Telefonaten, Chat-Assistent für allgemeine Fragen	Beschäftigte geben Antworten frei; allgemeine Auskünfte nur auf geprüfter Wissensbasis
Posteingang	Schreiben erkennen, einem Vorgang zuordnen, Anliegen und Fristen herausziehen, an das richtige Team leiten	Sachbearbeitung prüft Zuordnung und Inhalt
Antragsbearbeitung	Angaben aus Anträgen und Nachweisen strukturieren, fehlende Unterlagen markieren, Rückfragen vorformulieren	Sachbearbeitung entscheidet über den Antrag
Wissenssuche	Fragen zu Satzung, Rundschreiben, Arbeitsanweisungen und Verträgen beantworten, mit Quellenangabe	Beschäftigte prüfen die Quelle
Leistungsprüfung	Unterlagen zusammenfassen, Abweichungen vom Antrag hervorheben, Prüfvermerk vorbereiten	ausschließlich Beschäftigte, bei Bedarf mit dem Medizinischen Dienst

Allen Feldern gemeinsam ist: Die KI liefert einen Entwurf, der Mensch prüft und entscheidet. Bei Texten mit Rechtsfolgen – Bescheide, Ablehnungen, Rückforderungen – gilt das ohne Ausnahme.

Wie hilft generative KI im Versichertenservice und im Posteingang?

Kurze Antwort

Sie verkürzt Bearbeitungszeiten, indem sie Anliegen erkennt, Vorgänge vorsortiert und Antwortentwürfe liefert. Das gelingt nur auf Basis geprüfter Inhalte und mit klaren Regeln, wann ein Mensch übernimmt.

Versichertenservice: Ein Assistent kann Fragen zu Leistungen, Bonusprogrammen oder Unterlagen beantworten, wenn er auf freigegebene Texte der Kasse zugreift und nicht frei formuliert. Fragen zum eigenen Vorgang, Beschwerden und Widersprüche gehören an Beschäftigte. Seit dem 2. August 2026 gilt nach Art. 50 der KI-Verordnung zudem: Menschen müssen erkennen können, dass sie mit einem KI-System sprechen.

Posteingang: Viele Kassen digitalisieren eingehende Post bereits. Generative KI ergänzt die klassische Dokumentenerkennung, weil sie auch frei formulierte Schreiben versteht – etwa einen handschriftlichen Brief, der einen Antrag, eine Adressänderung und eine Beschwerde enthält. Sinnvoll ist eine Konfidenzschwelle: Was die KI nicht sicher zuordnen kann, landet in einer manuellen Klärung.

Antragsbearbeitung: Die KI kann Angaben aus Formularen und Nachweisen in ein strukturiertes Schema übertragen und prüfen, ob Unterlagen fehlen. Die rechtliche Bewertung bleibt bei der Sachbearbeitung.

Wie unterstützt generative KI Wissenssuche und Leistungsprüfung?

Kurze Antwort

Bei der Wissenssuche beantwortet sie Fragen aus internen Regelwerken mit Verweis auf die Fundstelle. In der Leistungsprüfung bereitet sie Unterlagen auf, damit Beschäftigte schneller und vollständiger prüfen können – entscheiden müssen sie selbst.

Für die Wissenssuche hat sich ein Aufbau bewährt, bei dem das Sprachmodell nur Antworten aus einer festgelegten Dokumentensammlung gibt und die Quelle nennt (häufig als Retrieval-Augmented Generation bezeichnet). Voraussetzung ist eine gepflegte Wissensbasis: Gelten mehrere Fassungen einer Arbeitsanweisung nebeneinander, liefert auch die KI widersprüchliche Antworten.

In der Leistungsprüfung – etwa bei Hilfsmitteln, Krankengeld oder Rehabilitation – kann die KI umfangreiche Unterlagen zusammenfassen, Daten und Zeiträume gegenüberstellen und auf Lücken hinweisen. Wichtig sind drei Regeln:

1. Mensch in der Schleife: Jede Entscheidung trifft eine Person, die die Unterlagen selbst einsehen kann und nicht nur die Zusammenfassung.
2. Keine Vorentscheidung: Die KI formuliert keine Empfehlung „bewilligen“ oder „ablehnen“, solange das System nicht als Hochrisiko-KI bewertet und entsprechend abgesichert ist.
3. Nachvollziehbarkeit: Eingaben, Ausgaben und Freigaben werden protokolliert, damit Widersprüche, Prüfungen und Beschwerden bearbeitet werden können.

Wo liegt die Grenze zur Data Science in der Krankenkasse?

Kurze Antwort

Data Science arbeitet mit strukturierten Daten und Statistik, generative KI mit Sprache und Dokumenten. Beide teilen den Rechtsrahmen, unterscheiden sich aber in Methoden, Risiken und Kompetenzen.

Merkmal	Data Science	Generative KI
Daten	Abrechnungs-, Stamm- und Leistungsdaten in Tabellen	Briefe, E-Mails, Anträge, Gutachten, Regelwerke
Typische Aufgaben	Ausgabenprognose, Auswahl von Prüffällen, Hinweise nach § 25b SGB V	Antwortentwürfe, Zusammenfassungen, Zuordnung, Wissenssuche
Hauptrisiko	Verzerrte Modelle, falsche Prognosen	Erfundene oder unvollständige Aussagen, Datenabfluss bei Eingaben
Kontrolle	Validierung der Modelle mit Kennzahlen	Prüfung jeder Ausgabe durch Beschäftigte, Quellenbezug

Wie Krankenkassen ihre Abrechnungsdaten für Prognosen und Prüfungen nutzen und was § 284 SGB V dabei erlaubt, beschreibt der Artikel Data Science in der Krankenversicherung.

Welche Regeln gelten für generative KI in der Krankenkasse?

Kurze Antwort

Krankenkassen verarbeiten Sozialdaten und unterliegen deshalb dem Sozialgeheimnis und dem Sozialdatenschutz des SGB X neben der DSGVO. Hinzu kommen die KI-Verordnung, § 393 SGB V für Cloud-Dienste und die staatliche Aufsicht.

Regel	Was sie verlangt	Folge für KI-Projekte
Sozialgeheimnis (§ 35 SGB I)	Sozialdaten nur befugt verarbeiten; auch intern nur Befugten zugänglich machen	Rollen- und Rechtekonzept auch für KI-Assistenten und Wissensbasen
Zweckbindung (§ 284 SGB V)	Sozialdaten nur für gesetzlich bestimmte Zwecke	Jeder Anwendungsfall braucht eine Rechtsgrundlage
DSGVO	Rechtsgrundlage, Gesundheitsdaten als besondere Kategorie (Art. 9), Datenschutz-Folgenabschätzung (Art. 35), Grenzen automatisierter Entscheidungen (Art. 22)	DSFA in der Regel erforderlich; KI nur als Unterstützung von Entscheidungen
Auftragsverarbeitung (§ 80 SGB X)	Anzeige an die Aufsichtsbehörde rechtzeitig vor Auftragserteilung; Verarbeitung im Inland, in der EU oder gleichgestellten Staaten; nicht-öffentliche Auftragnehmer nur unter engen Voraussetzungen	Vertrag, Anzeige und Standortprüfung vor dem Start einplanen
Automatisierte Bescheide (§ 31a SGB X)	Vollautomatisierter Verwaltungsakt nur, wenn kein Anlass zur Bearbeitung durch Amtsträger besteht	Generative KI nicht als Entscheider einsetzen
Cloud-Dienste (§ 393 SGB V)	Verarbeitung in Deutschland, der EU oder gleichgestellten Staaten, Niederlassung im Inland, aktuelles C5-Testat	KI-Dienste ohne passendes Testat scheiden für Sozialdaten aus

Was § 393 SGB V im Einzelnen verlangt und wie Sie ein C5-Testat lesen, erklärt der Artikel § 393 SGB V: Cloud im Gesundheitswesen und C5-Testat. Viele Überlegungen aus dem Artikel ChatGPT im Krankenhaus – private Konten, Unternehmensversionen, Freigabeprozess – lassen sich auf Krankenkassen übertragen.

Aufsicht: Das Bundesamt für Soziale Sicherung (BAS) beaufsichtigt die Kassen, deren Zuständigkeit sich über mehr als drei Bundesländer erstreckt; die übrigen beaufsichtigen die Länder. Die Aufsicht prüft die Geschäfts-, Rechnungs- und Betriebsführung mindestens alle fünf Jahre (§ 274 SGB V). Das BAS nennt den Einsatz von KI bei Sozialversicherungsträgern ausdrücklich als neue Anforderung an die Aufsicht. Eine eigene Prüfrichtlinie des BAS speziell für KI ist uns derzeit nicht bekannt; Kassen sollten KI-Vorhaben deshalb so dokumentieren, dass sie in einer regulären Prüfung nachvollziehbar sind.

Wann ist KI in der Krankenkasse Hochrisiko-KI?

Kurze Antwort

Wenn sie dafür bestimmt ist, den Anspruch auf Leistungen zu prüfen oder über Gewährung, Kürzung oder Rückforderung mitzuentscheiden. Dann gelten ab dem 2. Dezember 2027 die Hochrisiko-Pflichten der KI-Verordnung.

Die KI-Verordnung (EU) 2024/1689 stuft in Anhang III Nr. 5 unter anderem zwei Gruppen als hochriskant ein, die Krankenversicherungen betreffen können:

• KI-Systeme, mit denen Behörden oder Stellen in ihrem Auftrag prüfen, ob Menschen Anspruch auf öffentliche Unterstützungsleistungen einschließlich Gesundheitsdiensten haben, oder mit denen solche Leistungen gewährt, gekürzt, widerrufen oder zurückgefordert werden.
• KI-Systeme für Risikobewertung und Preisbildung bei natürlichen Personen in der Lebens- und Krankenversicherung.

Nicht jede KI in diesen Bereichen ist automatisch hochriskant. Nach Art. 6 Abs. 3 kann ein System ausgenommen sein, wenn es etwa nur eine eng begrenzte Verfahrensaufgabe erfüllt oder eine vorbereitende Aufgabe übernimmt und kein erhebliches Risiko besteht. Eine reine Zuordnung der Post zu Teams kann darunter fallen; eine Zusammenfassung, die faktisch die Leistungsentscheidung prägt, eher nicht. Die Einstufung ist zu dokumentieren.

Mit der Änderungsverordnung (EU) 2026/1744 („Digital Omnibus“) gelten die Pflichten für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027. Betreiber müssen dann unter anderem eine menschliche Aufsicht sicherstellen, Protokolle aufbewahren und die Systeme bestimmungsgemäß nutzen; öffentliche Stellen führen vor dem Einsatz eine Grundrechte-Folgenabschätzung durch (Art. 26 und 27). Unabhängig davon gelten bereits die Pflicht zur KI-Kompetenz nach Art. 4 und die Transparenzpflichten nach Art. 50. Was Art. 4 für Organisationen bedeutet, beschreibt der Artikel KI-Kompetenz nach der KI-Verordnung.

Wie führen Krankenkassen generative KI ein?

Kurze Antwort

Mit einem eng abgegrenzten Anwendungsfall, einer frühen Prüfung von Recht und Datenschutz, einer geprüften Wissensbasis und geschulten Beschäftigten. Ausweiten sollten Sie erst nach einer messbaren Pilotphase.

1. Anwendungsfall wählen: Ein Feld mit viel Text, klaren Regeln und geringem Risiko – zum Beispiel die Wissenssuche für den Service oder die Vorsortierung im Posteingang.
2. Einstufen: Zweck, Rechtsgrundlage, Datenarten und Einstufung nach der KI-Verordnung festhalten; Datenschutzbeauftragte und Informationssicherheit früh einbinden.
3. Plattform prüfen: Betrieb im eigenen Rechenzentrum oder als Cloud-Dienst nach § 393 SGB V, Vertrag zur Auftragsverarbeitung, Anzeige nach § 80 SGB X, Protokollierung, Löschfristen.
4. Wissensbasis ordnen: Gültige Fassungen von Arbeitsanweisungen und Rundschreiben festlegen, Verantwortliche für die Pflege benennen.
5. Mitbestimmung klären: Der Personalrat ist bei technischen Einrichtungen, die Verhalten oder Leistung erfassen können, zu beteiligen.
6. Pilot messen: Bearbeitungszeit, Fehlerquote, Anteil manueller Nacharbeit und Zufriedenheit der Beschäftigten vor und nach dem Start erheben.
7. Schulen: Beschäftigte lernen, Ergebnisse zu prüfen, Grenzen zu erkennen und Datenschutzregeln anzuwenden.

Bei Auswahl, Bewertung und Einführung unterstützt Sie unsere KI-Beratung für das Gesundheitswesen – mit Schwerpunkt auf Verwaltung, Organisation und Daten.

Welche Schulungen passen zu generativer KI in der Krankenkasse?

Kurze Antwort

Fachbereiche brauchen Grundlagen und Prompt-Praxis, Projektteams Wissen zu Prozessgestaltung und KI-Agenten, Leitungen einen Blick auf Strategie und Steuerung. Datenschutz gehört für alle dazu.

Aufgabe	Passendes Seminar	Dauer
Einstieg in KI-Anwendungen und Gesundheitsdaten	KI im Gesundheitswesen	1 Tag
Geschäftsprozesse mit generativer KI gestalten	AB-730 Transform business workflows with generative AI	1 Tag
KI-Einführung in der Organisation steuern	AB-731 Drive AI transformation in your organization	1 Tag
KI-Agenten für Service und Wissenssuche bauen	AB-620 KI-Agenten mit Copilot Studio	3 Tage
Datenschutz in KI-Projekten bewerten	EU-Datenschutz-Grundverordnung (DSGVO)	3 Tage

Alle Seminare finden Sie im Bereich Künstliche Intelligenz. Auf Wunsch führen wir sie als Inhouse-Schulung mit Beispielen aus Ihrer Kasse durch.

Fazit

Generative KI kann Krankenkassen spürbar entlasten – im Service, im Posteingang, in der Sachbearbeitung und bei der Suche in Regelwerken. Ihr Platz ist die Vorbereitung von Entscheidungen, nicht die Entscheidung selbst. Wer früh klärt, welche Daten in welches System fließen, Sozialdatenschutz, § 393 SGB V und die Einstufung nach der KI-Verordnung dokumentiert und die Beschäftigten schult, kann heute mit wenig Risiko beginnen und ist vorbereitet, wenn ab Dezember 2027 die Hochrisiko-Pflichten greifen.

Hinweis: Dieser Überblick ersetzt keine Rechtsberatung.

Quellen

1. Verordnung (EU) 2024/1689 (KI-Verordnung). Amtsblatt der Europäischen Union, Art. 4, 6, 26, 27, 50 und Anhang III.
2. Verordnung (EU) 2026/1744 („Digital Omnibus“ zur KI-Verordnung). Amtsblatt der Europäischen Union, Erwägungsgrund 40 zu den neuen Fristen.
3. Verordnung (EU) 2016/679 (DSGVO). Art. 9, 22 und 35.
4. § 35 SGB I – Sozialgeheimnis. Bundesministerium der Justiz.
5. § 80 SGB X – Verarbeitung von Sozialdaten im Auftrag. Bundesministerium der Justiz.
6. § 31a SGB X – Vollständig automatisierter Erlass eines Verwaltungsaktes. Bundesministerium der Justiz.
7. § 284 SGB V – Sozialdaten bei den Krankenkassen. Bundesministerium der Justiz.
8. § 393 SGB V – Cloud-Einsatz im Gesundheitswesen. Bundesministerium der Justiz.
9. § 274 SGB V – Prüfung der Geschäfts-, Rechnungs- und Betriebsführung. Bundesministerium der Justiz.
10. Pressemitteilung Nr. 2/2026: 70 Jahre BAS. Bundesamt für Soziale Sicherung, 8. Mai 2026.

Passende Schulungen

Vertiefen Sie das Thema mit Ihrem Team – im offenen Seminar oder als Inhouse-Schulung.

• KI im Gesundheitswesen – Anwendungen, Gesundheitsdaten und digitale Infrastruktur1 Tag · nächster Termin 06.11.2026
• AB-730 Transform business workflows with generative AI (AB-730T00)1 Tag · nächster Termin 06.11.2026
• AB-731 Drive AI transformation in your organization (AB-731T00)1 Tag · nächster Termin 06.11.2026
• AB-620 Design and build integrated AI agent solutions in Copilot Studio (AB-620T00)3 Tage · nächster Termin 11.–13.11.2026
• Alle Seminare: Künstliche IntelligenzTermine, Inhalte und Inhouse-Angebote