Nicht das KI-System entscheidet, sondern die Verarbeitung

Claude, ChatGPT oder Langdock: Welches KI-System ist datenschutzkonform? Diese Frage steht in jedem Beratungsgespräch bei der Einführung von Künstlicher Intelligenz zur Debatte. Sie ist verständlich, führt aber in die falsche Richtung.

Die Datenschutz-Grundverordnung (DSGVO) bewertet kein Werkzeug, sondern eine Verarbeitung. Entscheidend ist, welche Daten Sie zu welchem Zweck mit dem System verarbeiten und ob genau diese Verarbeitung rechtmäßig ist. Wir zeigen, worauf es ankommt und warum ein pauschales „Keine personenbezogenen Daten in die KI“ weder rechtlich geboten noch praktisch durchzuhalten ist.

Die falsche Frage: Welches KI-Tool ist DSGVO-konform?

Ein KI-System ist nicht „an sich“ datenschutzkonform oder unzulässig. Die DSGVO ist bewusst technologieneutral gefasst (Erwägungsgrund 15). Sie knüpft an die Verarbeitung personenbezogener Daten an, nicht an die Software, mit der sie geschieht.

Dieselbe Anwendung kann deshalb im einen Fall rechtmäßig und im anderen unzulässig sein. Eine Kundenanfrage mit KI zu beantworten ist etwas anderes, als mit demselben System Bewerbende zu bewerten oder Gesundheitsdaten auszuwerten.

Verantwortlich für diese Bewertung ist das jeweilige Unternehmen, also der Verantwortliche, nicht der Anbieter. Der Anbieter liefert die Voraussetzungen: einen Auftragsverarbeitungsvertrag, technische und organisatorische Maßnahmen, Angaben zu Speicherorten. Ob die Verarbeitung schlussendlich zulässig ist, entscheidet der Zweck, den Sie verfolgen.

Die KI-Verordnung denkt genauso. Das Unternehmen, das Künstliche Intelligenz einsetzen möchte, ist dort Betreiber, und die Risikoklasse folgt dem Einsatzzweck. Ein Chat-Assistent für E-Mail-Entwürfe ist unkritisch. Wer denselben Assistenten gezielt zur Auswahl von Bewerbenden einsetzt, ändert dessen Zweckbestimmung: Er wird zum Hochrisiko-KI-System (Anhang III Nr. 4 KI-VO), und das Unternehmen wird nach Art. 25 Abs. 1 lit. c KI-VO selbst zum Anbieter mit allen Anbieterpflichten.

Auch Zertifikate wie ISO 27001 oder SOC 2 ändern daran nichts. Sie belegen die Informationssicherheit beim Anbieter, nicht die Rechtmäßigkeit des gewünschten Einsatzes.

Was die Systeme tatsächlich unterscheidet

Natürlich gibt es Unterschiede zwischen den Anbietern. Sie liegen aber nicht im Markennamen, sondern in der technischen und vertraglichen Ausgestaltung. Genau diese Merkmale bestimmen, für welche Verarbeitung ein System geeignet ist:

• Tarif: Einen Auftragsverarbeitungsvertrag (AVV) gibt es nur in den Business- und Enterprise-Tarifen sowie für die API. Die Privattarife wie Claude Free, Pro und Max oder ChatGPT Free und Plus unterliegen Verbraucherbedingungen ohne AVV. Für personenbezogene Daten fehlt damit die Grundlage der Auftragsverarbeitung. Für Unternehmensdaten ohne Personenbezug greift die DSGVO zwar nicht, Vertraulichkeit, Geschäftsgeheimnisse und mögliche Trainingsnutzung sprechen aber ebenso dagegen.
• Training: In den Business-Tarifen schließen die Anbieter das Training mit Kundendaten aus. Das ist rechtlich zentral, denn Training wäre eine eigene Verarbeitung des Anbieters zu eigenen Zwecken.
• Speicher- und Verarbeitungsort: Claude speichert im Direktbezug in den USA. Eine EU-Verarbeitung bieten nur die von AWS betriebene Variante in Amazon Bedrock mit EU-Region oder Google Vertex mit regionalem Endpunkt. Bei der von Anthropic betriebenen „Claude Platform on AWS“ ist keine EU-Datenresidenz vorgesehen. ChatGPT bietet Datenresidenz und Inferenz in der EU für Enterprise und Edu, allerdings nicht voreingestellt: Sie muss eingerichtet werden. Langdock speichert in Deutschland und betreibt die Modelle grundsätzlich in EU-Regionen. Einzelne Modelle laufen nur in den USA und müssen aktiv freigeschaltet werden.
• Drittlandtransfer: Weder Anthropic noch OpenAI sind nach dem EU-US Data Privacy Framework zertifiziert. Anthropic bezieht Standardvertragsklauseln in seinen AVV ein. Bei OpenAI beauftragen EWR-Kunden OpenAI Ireland, das die Weiterübermittlung in die USA auf eigene Vereinbarungen mit Standardvertragsklauseln stützt. Da Art. 44 DSGVO auch Weiterübermittlungen erfasst, müssen Sie als Verantwortlicher sich die Transferprüfung des Anbieters vorlegen lassen und plausibilisieren.
• Konzernstruktur: Langdock hat im September 2026 seine US-Holding durch eine deutsche SE ersetzt. Die eingesetzten Cloud-Anbieter bleiben jedoch US-Konzerne, für die US-Zugriffsbefugnisse wie der CLOUD Act oder FISA 702 unabhängig vom Serverstandort gelten können.
• Zugriff und Integrationen: Aufbewahrungsfristen, Protokolle und Rechteverwaltung unterscheiden sich je Tarif. Konnektoren, Websuche und MCP-Integrationen binden weitere Empfänger ein und liegen außerhalb der Residenz- und Löschzusagen. Mit Agentenfunktionen verschiebt sich das Risiko zusätzlich zur Frage, auf welche Daten und Systeme die KI zugreifen darf.
• Konto- und Nutzungsdaten: Daten über die Nutzenden selbst, etwa Konto- und Nutzungsdaten, verarbeiten Anbieter häufig als eigene Verantwortliche. Das gehört in die Information der Beschäftigten.

Dasselbe Modell, anderer Weg: ChatGPT direkt oder über Amazon

Wie stark der Bezugsweg das Ergebnis verändert, zeigt OpenAI. Seit Juni 2026 sind die Modelle von OpenAI auch über Amazon Bedrock allgemein verfügbar. Das Modell ist dasselbe, die Verarbeitungskette eine andere:

Der Weg über Amazon ist damit nicht automatisch besser, sondern anders. Er kann die Drittlandproblematik entschärfen, wenn das Modell in einer EU-Region läuft. Wer jedoch eine eigene Anwendung baut, übernimmt Pflichten, die bei ChatGPT der Hersteller trägt. Laut AWS lässt sich zudem ChatGPT Work so konfigurieren, dass die Modellaufrufe über Bedrock laufen; welche Daten dann weiterhin bei OpenAI liegen, ist gesondert zu prüfen. Für Claude gilt dasselbe Prinzip: Über Bedrock oder Vertex in einer EU-Region ist der Cloud-Anbieter der Auftragsverarbeiter, nicht Anthropic.

Diese Merkmale sagen nicht, ob ein System „gut“ oder „schlecht“ ist. Sie sagen, welche Verarbeitung sich damit rechtskonform umsetzen lässt.

Die richtige Frage: Was soll verarbeitet werden – und ist das rechtmäßig?

Ob eine KI-Verarbeitung zulässig ist, entscheidet sich auf vier Stufen. Jede muss erfüllt sein. Scheitert eine, hilft auch das beste System nicht.

1. Ist die Verarbeitung an sich rechtmäßig? Jeder Zweck braucht eine Rechtsgrundlage nach Art. 6 DSGVO, sensible Daten zusätzlich eine Ausnahme nach Art. 9 Abs. 2. Typisch sind Vertragserfüllung (lit. b), rechtliche Pflichten (lit. c) und berechtigte Interessen (lit. f). Die Vertragserfüllung legt der EuGH eng aus: Sie trägt nur, was objektiv unerlässlich ist (EuGH, Urt. v. 4.7.2023, C-252/21). Wo das zweifelhaft ist, sind berechtigte Interessen mit dokumentierter Abwägung die belastbarere Grundlage.
2. Ändert sich der Zweck? KI als Werkzeug ist für sich keine Zweckänderung: Wer eine Kundenanfrage mit KI beantwortet, verfolgt denselben Zweck wie ohne KI. Art. 6 Abs. 4 DSGVO greift erst, wenn die Daten für einen anderen Zweck genutzt werden, etwa für Auswertungen oder Profilbildung. Dann ist zu prüfen, ob der neue Zweck mit dem ursprünglichen vereinbar ist; maßgeblich sind die Verbindung der Zwecke, der Erhebungskontext, die Art der Daten, die Folgen für Betroffene und Garantien wie Pseudonymisierung. Ob bei Vereinbarkeit die ursprüngliche Rechtsgrundlage genügt, wie Erwägungsgrund 50 nahelegt, ist umstritten. Vorsorglich sollte eine Rechtsgrundlage für den neuen Zweck mitgeprüft werden.
3. Ist der Anbieter richtig eingebunden? Der Anbieter muss hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten (Art. 28 Abs. 1 DSGVO). Mit einem AVV ist er Auftragsverarbeiter und kein „Dritter“ (Art. 4 Nr. 10 DSGVO); nach herrschender Auffassung braucht die Weitergabe dann keine eigene Rechtsgrundlage. Das gilt nur, solange er weisungsgebunden handelt: Nutzt er die Daten für eigene Zwecke wie Training, wird er insoweit selbst Verantwortlicher (Art. 28 Abs. 10 DSGVO), und die Weitergabe wird zur Übermittlung mit eigenem Rechtfertigungsbedarf.
4. Ist der Drittlandtransfer abgesichert? Verlassen Daten den EWR, gelten die Art. 44 ff. DSGVO, und zwar auch für Weiterübermittlungen durch den Anbieter und seine Unterauftragsverarbeiter. Erforderlich ist ein Angemessenheitsbeschluss, die DPF-Zertifizierung des Empfängers oder Standardvertragsklauseln mit Transfer Impact Assessment (EuGH, Urt. v. 16.7.2020, C-311/18 – Schrems II).

Daneben gelten flankierende Pflichten, die für jeden Anwendungsfall mitzuprüfen sind:

• Information: Die Datenschutzhinweise nach Art. 13, 14 DSGVO sind um die KI-Verarbeitung, die Empfänger und den Drittlandtransfer zu ergänzen.
• Betroffenenrechte: Die Auskunft nach Art. 15 DSGVO erfasst auch Prompts und Ausgaben mit Personenbezug; Chatverläufe müssen auffindbar und löschbar sein (Art. 17). Falsche KI-Aussagen über Personen verletzen den Grundsatz der Richtigkeit (Art. 5 Abs. 1 lit. d) und begründen einen Berichtigungsanspruch (Art. 16).
• Dokumentation: Jeder Anwendungsfall gehört in das Verzeichnis von Verarbeitungstätigkeiten (Art. 30 DSGVO); es ist zugleich Nachweis im Rahmen der Rechenschaftspflicht (Art. 5 Abs. 2).
• Datenschutz-Folgenabschätzung: Sie ist bei voraussichtlich hohem Risiko Pflicht (Art. 35 DSGVO). KI gilt regelmäßig als neue Technologie; kommt ein weiteres Kriterium wie Beschäftigtendaten oder die Bewertung von Personen hinzu, ist eine DSFA in der Regel geboten.
• Mitbestimmung: Besteht ein Betriebsrat, ist schon die Einführung des Systems nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig, weil es objektiv geeignet ist, Verhalten oder Leistung zu überwachen.
• Herkunft des Modells: Nach der Stellungnahme 28/2024 des Europäischen Datenschutzausschusses sollten Unternehmen, die ein fremdes Modell einsetzen, im Rahmen ihrer Rechenschaftspflicht angemessen prüfen, ob es rechtmäßig entwickelt wurde.

Warum „Keine personenbezogenen Daten in die KI“ keine Lösung ist

Viele Unternehmen reagieren auf die Unsicherheit mit einer einfachen Regel: Personenbezogene Daten dürfen nicht in KI-Systeme. Diese Regel klingt vorsichtig, ist aber weder rechtlich geboten noch praktisch einzuhalten.

Rechtlich kennt die DSGVO kein Verbot einzelner Werkzeuge. Ein KI-Dienst im Business-Tarif ist ein Auftragsverarbeiter wie ein CRM, ein Ticketsystem oder ein E-Mail-Dienst, und für ihn gilt derselbe Maßstab. Praktisch enthält fast jeder Geschäftstext Namen, E-Mail-Adressen oder Kundenbezüge. Ein Pauschalverbot treibt Beschäftigte deshalb in private Konten, also genau dorthin, wo kein AVV besteht.

Auch Pseudonymisierung ist kein Freifahrtschein. Sie senkt das Risiko, macht die Daten für Ihr Unternehmen aber nicht anonym, solange Sie die Zuordnung herstellen können. Der EuGH hat zwar entschieden, dass pseudonymisierte Daten für einen Empfänger ohne Zuordnungsmöglichkeit unter Umständen keine personenbezogenen Daten sind (EuGH, Urt. v. 4.9.2025, C-413/23 P). An Ihren eigenen Pflichten als Verantwortlicher ändert das nichts.

Grenzen gibt es dennoch. Sie ergeben sich aus dem Gesetz, nicht aus der Wahl des Systems:

• Besondere Kategorien: Gesundheits-, biometrische oder vergleichbar sensible Daten nur mit einer Ausnahme nach Art. 9 Abs. 2 DSGVO. Erfasst sind auch Daten, aus denen sich sensible Informationen mittelbar ergeben (EuGH, Urt. v. 1.8.2022, C-184/20).
• Berufsgeheimnisse: Ärzte, Anwälte oder Steuerberater dürfen Geheimnisse gegenüber Dienstleistern nur offenbaren, soweit dies für deren Tätigkeit erforderlich ist, und müssen sie zur Verschwiegenheit verpflichten (§ 203 Abs. 3, 4 StGB). Für Anwälte verlangt § 43e BRAO zudem einen Vertrag in Textform und bei Diensten im Ausland einen vergleichbaren Geheimnisschutz.
• Automatisierte Entscheidungen: Ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind nur in den engen Ausnahmen des Art. 22 Abs. 2 DSGVO zulässig, also bei Vertrag, Gesetz oder ausdrücklicher Einwilligung und mit Schutzmaßnahmen wie dem Recht auf menschliches Eingreifen. Der EuGH versteht den Begriff der Entscheidung weit (Urt. v. 7.12.2023, C-634/21). In der Praxis sollte deshalb ein Mensch entscheiden.
• KI-Verordnung: Verbotene Praktiken wie Emotionserkennung am Arbeitsplatz sind ausgeschlossen (Art. 5 KI-VO). Für Hochrisiko-Einsätze wie die Bewerberauswahl gelten ab dem 2. Dezember 2027 die Betreiberpflichten nach Art. 26 KI-VO; wer dafür ein Allzweck-System umwidmet, wird selbst Anbieter (Art. 25 Abs. 1 lit. c KI-VO). Die Vorgaben der DSGVO gelten schon heute uneingeschränkt.
• Privattarife: Ohne AVV ist die Verarbeitung personenbezogener Daten ausgeschlossen. Für sonstige Unternehmensdaten sprechen Geheimnisschutz und mögliche Trainingsnutzung dagegen.

Drei Beispiele aus der Praxis

Die folgenden Fälle gehen jeweils von einem Business-Tarif mit AVV aus. Das System ist also in allen drei Fällen dasselbe, das Ergebnis nicht.

Kundenanfrage beantworten: zulässig

Eine Mitarbeiterin lässt sich die Antwort auf eine Reklamation entwerfen. Verarbeitet werden Name, Bestellnummer und Anliegen der Kundin. Rechtsgrundlage ist die Vertragserfüllung (Art. 6 Abs. 1 lit. b DSGVO); dass dabei ein KI-Werkzeug als Auftragsverarbeiter hilft, ändert den Zweck nicht. Wer die enge Erforderlichkeit nach der EuGH-Rechtsprechung vorsichtiger bewertet, stützt den Werkzeugeinsatz ergänzend auf berechtigte Interessen an einer effizienten Bearbeitung (lit. f). Erforderlich sind ein Hinweis in den Datenschutzinformationen und eine angemessene Löschfrist. Enthält die Reklamation Gesundheitsangaben, etwa zu einer Verletzung, gilt zusätzlich Art. 9 DSGVO.

Arbeitszeugnis entwerfen: zulässig mit Auflagen

Beschäftigte haben bei Beendigung des Arbeitsverhältnisses Anspruch auf ein schriftliches Zeugnis (§ 109 GewO). Verarbeitet werden Leistungs- und Verhaltensdaten, getragen von Art. 6 Abs. 1 lit. b und c DSGVO. Besteht ein Betriebsrat, muss die Einführung des Systems mit ihm geregelt sein (§ 87 Abs. 1 Nr. 6 BetrVG); auch die Betriebsvereinbarung muss die DSGVO vollständig einhalten (EuGH, Urt. v. 19.12.2024, C-65/23). Der Zugriff bleibt auf die Personalabteilung beschränkt, die Endfassung verantwortet ein Mensch.

Fehlzeiten für das BEM ermitteln: kein KI-Einsatz

Sind Beschäftigte innerhalb eines Jahres länger als sechs Wochen arbeitsunfähig, muss der Arbeitgeber ein betriebliches Eingliederungsmanagement anbieten (§ 167 Abs. 2 SGB IX). Arbeitsunfähigkeitszeiten sind Gesundheitsdaten. Ihre Verarbeitung stützt sich auf Art. 9 Abs. 2 lit. b DSGVO in Verbindung mit dieser gesetzlichen Pflicht; ob daneben § 26 Abs. 3 BDSG nach der EuGH-Entscheidung C-34/21 trägt, ist umstritten. Der KI-Einsatz ist aber nicht erforderlich: Fehltage lassen sich mit der Zeiterfassung zählen. Nach dem Grundsatz der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) ist KI hier das falsche Mittel.

Das dritte Beispiel zeigt den Kern: Die Prüfung kann auch ergeben, dass es für einen Zweck gar keine KI braucht.

Haftung und Ausblick

Verstöße haben Folgen. Gegenüber Betroffenen haftet zuerst das einsetzende Unternehmen auf Schadensersatz (Art. 82 DSGVO); schon ein kurzzeitiger Kontrollverlust über Daten kann einen immateriellen Schaden begründen (BGH, Urt. v. 18.11.2024, VI ZR 10/24). Hinzu kommen Bußgelder nach Art. 83 DSGVO und nach der KI-Verordnung.

Die Rechtslage bleibt in Bewegung. Der Datenteil des sogenannten Digital Omnibus sieht unter anderem Änderungen der DSGVO für das Training von KI vor, beschlossen ist er noch nicht. Auch das Data Privacy Framework steht weiter auf dem Prüfstand: Gegen das bestätigende Urteil des EuG ist ein Rechtsmittel beim EuGH anhängig.

Fazit

Die Frage „Claude, ChatGPT oder Langdock?“ kommt zu früh. Zuerst steht der Anwendungsfall: Was soll verarbeitet werden, auf welcher Rechtsgrundlage und mit welchem Risiko? Erst dann lässt sich beurteilen, welches System in welcher Konfiguration dazu passt.

Für Unternehmen bedeutet das:

• Anwendungsfälle erfassen und für jeden Fall die vier Prüfstufen durchlaufen.
• Den Bezugsweg bewusst wählen: Direktvertrag, Cloud-Anbieter oder Plattform führen zu unterschiedlichen Verarbeitungsketten.
• Nur Business- oder Enterprise-Tarife mit AVV zulassen, Training ausschließen sowie Aufbewahrung, Region und Integrationen festlegen.
• In einer KI-Richtlinie regeln, welche Datenklassen in welches System dürfen, statt personenbezogene Daten pauschal auszuschließen.
• Transferprüfung, Datenschutz-Folgenabschätzung und Betriebsvereinbarung dort vorsehen, wo sie erforderlich sind, und alles im Verzeichnis von Verarbeitungstätigkeiten dokumentieren.
• Beschäftigte schulen, wie es Art. 4 KI-VO vorsieht.

Wer so vorgeht, setzt KI rechtssicher ein und braucht kein Verbot, das in der Praxis ohnehin niemand einhält.

Hinweis

Rechtsstand: Oktober 2026. Anbieterbedingungen ändern sich häufig, maßgeblich ist die bei Vertragsschluss geltende Fassung. Der Beitrag gibt einen allgemeinen Überblick und ersetzt keine Prüfung durch uns im Einzelfall.