ChatGPT ist in vielen Unternehmen längst angekommen. Es formuliert E-Mails, fasst Dokumente zusammen, unterstützt bei Recherchen und hilft beim ersten Entwurf einer Präsentation. Mitunter geschieht das offiziell. Mitunter sitzt der neue digitale Kollege in einem privaten Browserfenster und wurde der IT nie vorgestellt.
Sobald Beschäftigte personenbezogene Daten in ChatGPT eingeben oder entsprechende Ergebnisse weiterverwenden, gilt die Datenschutz-Grundverordnung. Unternehmen müssen daher nicht nur klären, ob ChatGPT verwendet werden darf. Sie müssen festlegen, für welche Zwecke, mit welchem Konto und mit welchen Daten der Einsatz zulässig ist.
Stand des Beitrags: 31. August 2026.
ChatGPT ist weder pauschal DSGVO-konform noch grundsätzlich unzulässig. Die Rechtmäßigkeit hängt vom konkreten Einsatz ab.
Ein datenschutzkonformer Einsatz setzt insbesondere voraus, dass das Unternehmen:
Ein Business-Tarif kann dafür wichtige Voraussetzungen schaffen. Er erteilt aber keinen datenschutzrechtlichen Generalpardon. Der Tarifname steht auf der Rechnung, die Verantwortung bleibt im Unternehmen.
Personenbezogene Daten sind alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Dazu gehören nicht nur Namen, Anschriften und E-Mail-Adressen. Auch Kundennummern, individuelle Vertragsinhalte, Bewerbungsunterlagen, Gesprächsnotizen, Standortdaten oder eine Kombination scheinbar neutraler Angaben können einen Personenbezug herstellen.
Personenbezogene Daten können bei ChatGPT an mehreren Stellen auftreten:
Das Entfernen eines Namens genügt nicht automatisch zur Anonymisierung. Beschreibt ein Prompt etwa Position, Alter, Abteilung und einen ungewöhnlichen Vorfall, kann die betroffene Person trotz fehlender Namensnennung erkennbar bleiben. Personenbezug kann auch aus dem Zusammenhang entstehen.
Für den Datenschutz macht es einen erheblichen Unterschied, welche Produktversion verwendet wird.
Bei persönlichen Free-, Plus- und Pro-Arbeitsbereichen kann OpenAI Inhalte zur Verbesserung seiner Modelle verwenden. Diese Nutzung lässt sich in den Datenkontrollen deaktivieren. Auch temporäre Chats werden nach Angaben von OpenAI nicht zum Training verwendet und grundsätzlich innerhalb von 30 Tagen gelöscht. Das Abschalten des Trainings ersetzt jedoch weder eine Rechtsgrundlage noch einen Vertrag über Auftragsverarbeitung.
Für ChatGPT Business, ChatGPT Enterprise und die API erklärt OpenAI, dass Ein- und Ausgaben standardmäßig nicht zum Training der Modelle verwendet werden. Außerdem steht für diese Unternehmensangebote ein Data Processing Addendum zur Verfügung. Die konkreten Funktionen zu Aufbewahrung, Administration, Datenresidenz und Zugriffskontrolle unterscheiden sich allerdings je nach Tarif. Maßgeblich sind deshalb stets die bei Einführung geltenden Vertrags- und Produktbedingungen.
Für die regelmäßige Verarbeitung betrieblicher Daten sollte ein Unternehmen daher zentral verwaltete Arbeitskonten bereitstellen. Private Accounts der Beschäftigten entziehen sich weitgehend der betrieblichen Kontrolle und sind für geregelte Verarbeitungsprozesse regelmäßig keine sinnvolle Grundlage.
Damit ChatGPT datenschutzkonform eingesetzt werden kann, sollten Unternehmen die folgenden Punkte vor der Freigabe prüfen und dokumentieren.
Vor der Einführung muss klar sein, wofür ChatGPT eingesetzt werden soll. „Zur Produktivitätssteigerung“ ist dafür zu unbestimmt.
Ein zulässiger Anwendungsfall könnte lauten: Beschäftigte dürfen ChatGPT verwenden, um öffentlich bestimmte Marketingtexte sprachlich zu überarbeiten. Ein anderer Anwendungsfall wäre die Zusammenfassung von Kundenanfragen. Dieser erfordert wegen der enthaltenen personenbezogenen Daten bereits eine deutlich weitergehende Prüfung.
Die Freigabe sollte deshalb nicht pauschal für das gesamte Werkzeug, sondern für konkrete Nutzungsszenarien erfolgen.
Jede Verarbeitung personenbezogener Daten benötigt eine Rechtsgrundlage. Je nach Anwendungsfall kommen beispielsweise Vertragserfüllung, eine rechtliche Verpflichtung oder ein berechtigtes Interesse in Betracht. Im Beschäftigungskontext sind zusätzlich die Vorgaben des Bundesdatenschutzgesetzes zu prüfen.
Bei Gesundheitsdaten, biometrischen Angaben, politischen Ansichten oder anderen besonderen Kategorien personenbezogener Daten reicht Artikel 6 DSGVO allein nicht aus. Hier muss zusätzlich eine Ausnahme nach Artikel 9 DSGVO vorliegen.
Eine Einwilligung ist nicht automatisch die bequemste Lösung. Besonders im Arbeitsverhältnis bestehen Zweifel, ob sie tatsächlich freiwillig erteilt werden kann.
Verarbeitet OpenAI personenbezogene Daten im Auftrag des Unternehmens, ist grundsätzlich ein Vertrag nach Artikel 28 DSGVO erforderlich. Das aktuelle OpenAI Data Processing Addendum beschreibt unter anderem Weisungsbindung, Sicherheitsmaßnahmen, Unterauftragnehmer, Löschung und Unterstützung bei Betroffenenrechten.
Das Unternehmen muss dennoch prüfen, ob der Vertrag zum eingesetzten Produkt und zum geplanten Prozess passt. Auch die Rollenverteilung sollte dokumentiert werden. Nicht jede Verarbeitung rund um ein Benutzerkonto muss automatisch eine Auftragsverarbeitung sein.
Der Abschluss eines Vertrags ist daher ein wichtiger Prüfschritt. Er ist nicht das Ende der Prüfung.
Nach dem aktuellen Data Processing Addendum werden Daten aus dem Europäischen Wirtschaftsraum über OpenAI Ireland verarbeitet. Für Übermittlungen an verbundene Unternehmen oder Dienstleister außerhalb des EWR verweist OpenAI auf Angemessenheitsbeschlüsse oder EU-Standardvertragsklauseln.
Unternehmen sollten den tatsächlichen Datenfluss, die Unterauftragnehmer und mögliche ergänzende Schutzmaßnahmen prüfen und dokumentieren. Eine europäische Datenresidenz kann das Risiko reduzieren, bedeutet aber nicht automatisch, dass jede Verarbeitung ausschließlich innerhalb der EU stattfindet. Funktionen, Sicherheitsprotokolle und angebundene Dienste können eigenen Regeln folgen.
Der Serverstandort ist wichtig. Er ist nur nicht die einzige Zeile im Datenschutzkonzept.
Beschäftigte sollten nur die Informationen eingeben, die für den freigegebenen Zweck erforderlich sind. Wo möglich, sind Daten zu anonymisieren oder wirksam zu pseudonymisieren.
Zusätzlich sind technische und organisatorische Maßnahmen festzulegen, etwa:
Neue Funktionen sollten nicht ungeprüft für alle freigeschaltet werden. Eine Verbindung mit dem CRM-System ist datenschutzrechtlich etwas anderes als eine freundliche Bitte um drei alternative Überschriften.
Werden personenbezogene Daten von Kunden, Bewerbern oder Beschäftigten mit ChatGPT verarbeitet, müssen die Datenschutzinformationen angepasst werden. Betroffene müssen nachvollziehen können, welche Daten zu welchem Zweck und mit welchen Empfängern verarbeitet werden.
Auch Auskunft, Berichtigung und Löschung müssen praktisch möglich bleiben. Das kann schwierig werden, wenn niemand dokumentiert hat, welche Daten in welchem Chat oder in welcher angebundenen Quelle verwendet wurden.
Vor dem Einsatz ist außerdem eine Risikobewertung erforderlich. Führt die Verarbeitung voraussichtlich zu einem hohen Risiko für die Rechte und Freiheiten natürlicher Personen, muss eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO durchgeführt werden. Bei KI-Anwendungen kommt dies abhängig vom Einsatzgebiet und der Art der verarbeiteten Daten häufig in Betracht.
ChatGPT kann überzeugend formulieren und trotzdem falsch liegen. Werden personenbezogene Aussagen ungeprüft übernommen, können unrichtige oder diskriminierende Daten in Personalakten, Kundenkommunikation oder Entscheidungen gelangen.
Besondere Vorsicht gilt bei Bewerberauswahl, Leistungsbewertung, Kreditentscheidungen und vergleichbaren Verfahren. Artikel 22 DSGVO beschränkt Entscheidungen, die ausschließlich automatisiert getroffen werden und rechtliche oder ähnlich erhebliche Auswirkungen haben. Eine menschliche Beteiligung muss echten Entscheidungsspielraum bieten. Ein flüchtiger Blick auf das Ergebnis kurz vor dem Absenden genügt nicht.
Eine einfache Ampellogik kann die interne Richtlinie verständlicher machen.
Grün – regelmäßig unkritisch:
Gelb – nur nach Freigabe und mit Schutzmaßnahmen:
Rot – nicht ohne gesonderte Prüfung:
Die Ampel ersetzt keine Einzelfallprüfung. Sie verhindert aber, dass Beschäftigte bei jedem Prompt eine kleine juristische Doktorarbeit beginnen müssen.
Ein datenschutzkonformer Einsatz braucht klare Regeln. Eine KI-Richtlinie sollte zugelassene Tools, erlaubte Anwendungsfälle, ausgeschlossene Daten, Kontrollpflichten und Ansprechpartner benennen.
Beschäftigte müssen außerdem verstehen, warum diese Regeln bestehen. Rollenbezogene KI-Schulungen können Datenschutz, Informationssicherheit, Urheberrecht und die Anforderungen des AI Act gemeinsam vermitteln.
Für die dauerhafte Koordination kann ein interner oder externer AI Officer sinnvoll sein. Die Funktion ist nicht generell gesetzlich vorgeschrieben, kann aber Freigaben, Inventar, Schulungen und Kontrollen zusammenführen. Bei der datenschutzrechtlichen Bewertung bleibt der Datenschutzbeauftragte einzubeziehen.
K11 unterstützt Unternehmen bei der datenschutzrechtlichen Prüfung und Einführung neuer Anwendungen, der Erstellung interner Richtlinien und dem Aufbau einer belastbaren KI-Governance.
Ist ChatGPT Business automatisch DSGVO-konform?
Nein. Das Unternehmensangebot schafft wichtige technische und vertragliche Voraussetzungen. Das einsetzende Unternehmen muss trotzdem Zweck, Rechtsgrundlage, Datenkategorien, Drittlandtransfers, Einstellungen und interne Prozesse prüfen.
Dürfen Namen in ChatGPT eingegeben werden?
Nur wenn der konkrete Vorgang rechtmäßig geprüft und freigegeben wurde. Ein Name ist ein personenbezogenes Datum. Meist sollte zunächst geprüft werden, ob die Aufgabe ohne Namensnennung oder mit wirksamer Pseudonymisierung erfüllt werden kann.
Reicht es, das Modelltraining zu deaktivieren?
Nein. Dadurch werden neue Gespräche nicht zum Modelltraining verwendet. Andere Fragen wie Auftragsverarbeitung, Rechtsgrundlage, Speicherung, Drittlandtransfer und Betroffenenrechte bleiben bestehen.
Braucht jedes Unternehmen eine Datenschutz-Folgenabschätzung?
Nicht automatisch. Eine DSFA ist erforderlich, wenn die geplante Verarbeitung voraussichtlich ein hohes Risiko für betroffene Personen verursacht. Dies muss vor Beginn der Verarbeitung geprüft und dokumentiert werden.
Muss der Datenschutzbeauftragte ChatGPT freigeben?
Die Entscheidung trifft das Unternehmen. Der Datenschutzbeauftragte sollte jedoch frühzeitig beratend eingebunden werden, insbesondere wenn personenbezogene Daten, Beschäftigte oder risikoreiche Entscheidungen betroffen sind.
ChatGPT kann im Unternehmen datenschutzkonform eingesetzt werden. Dafür genügt weder ein Verbotsschild noch der Kauf eines Business-Tarifs.
Erforderlich sind konkrete Anwendungsfälle, geeignete Verträge und Einstellungen, eine tragfähige Rechtsgrundlage sowie verständliche Regeln für Beschäftigte. Wer diese Grundlagen schafft, muss Datenschutz und Produktivität nicht gegeneinander ausspielen.
Der Prompt ist schließlich kein rechtsfreier Raum. Er sieht nur aufgeräumter aus.