Künstliche Intelligenz ist in vielen Unternehmen längst angekommen. Nicht unbedingt mit rotem Band, Vorstandsbeschluss und feierlichem Gong. Häufiger mit einem Chatbot im Browser, einer automatischen Meeting-Zusammenfassung oder einem kleinen KI-Assistenten, der „nur kurz“ eine Kundenmail verbessern soll.
Und genau dort beginnt das Problem.
Denn KI ist selten nur ein technisches Werkzeug. Sobald personenbezogene Daten verarbeitet werden, sitzt die DSGVO mit am Tisch. Manchmal leise. Manchmal mit erhobenem Zeigefinger. Aber sie sitzt da.
Wer KI im Unternehmen einsetzt, muss deshalb nicht nur fragen: Was kann das Tool?
Sondern auch: Welche Daten gehen hinein? Wer kann darauf zugreifen? Wo werden sie gespeichert? Werden sie zum Training verwendet? Können sie gelöscht werden? Und wissen die betroffenen Personen überhaupt, was passiert?
Viele Unternehmen starten mit KI erstaunlich pragmatisch. Ein Tool wird getestet, ein paar Mitarbeitende bekommen Zugriff, die ersten Ergebnisse wirken brauchbar. Danach verbreitet sich die Nutzung ungefähr so schnell wie ein guter Kantinenkaffee nach einem langen Meeting.
Datenschutzrechtlich reicht das nicht.
Bevor KI-Systeme mit personenbezogenen Daten genutzt werden, müssen die Grundlagen geklärt sein. Dazu gehören insbesondere Verträge zur Auftragsverarbeitung, wenn externe Dienstleister eingesetzt werden. Wichtig ist außerdem, dass vertraglich geregelt wird, dass übermittelte Daten nicht für eigene Zwecke des Anbieters genutzt werden, insbesondere nicht zum Training eigener Modelle.
Bei Anbietern außerhalb der EU kommen weitere Prüfungen hinzu. Dann stellt sich die Frage nach dem Datenschutzniveau, geeigneten Garantien und gegebenenfalls einem Transfer Impact Assessment.
Kurz gesagt: Der erste Prompt sollte nicht schneller sein als die erste Prüfung.
KI-Chatbots gehören zu den häufigsten Anwendungen im Unternehmensalltag. Sie helfen beim Formulieren, Zusammenfassen, Strukturieren und Recherchieren. Aus Sicht des Datenschutzes sind sie aber nicht deshalb unproblematisch, weil sie freundlich antworten.
Personenbezogene Daten können in mehreren Richtungen entstehen. Zum einen können Eingaben dem Nutzerkonto einer Beschäftigten oder eines Beschäftigten zugeordnet werden. Zum anderen enthalten Prompts häufig Daten über Dritte: Kunden, Mitarbeitende, Bewerber, Geschäftspartner oder andere Personen.
Aus einem scheinbar harmlosen Prompt wird dann schnell eine Verarbeitung personenbezogener Daten.
Ein Beispiel: Eine Mitarbeiterin kopiert mehrere Kundenanfragen in einen Chatbot, um eine Antwort für einen neuen Fall vorzubereiten. Praktisch? Ja. Datenschutzrechtlich sensibel? Ebenfalls ja.
Denn die ursprünglichen Daten wurden nicht erhoben, damit sie später als Anschauungsmaterial für eine KI-Anfrage dienen.
Ein besonders wichtiger Punkt ist das Löschkonzept.
Wenn Chatverläufe dauerhaft gespeichert bleiben, muss ein Unternehmen wissen, wie lange diese Daten vorgehalten werden, wer darauf Zugriff hat und wie Betroffenenrechte erfüllt werden können. Ohne Überblick über gespeicherte Chatverläufe wird es schwierig, Auskunfts- oder Löschansprüche sauber zu beantworten.
Der Idealzustand ist eine technisch erzwungene automatische Löschung. Wenn ein Anbieter das nicht ermöglicht, bleibt häufig nur eine organisatorische Regelung, etwa die Pflicht zur regelmäßigen manuellen Löschung durch Beschäftigte.
Das ist besser als nichts. Aber technische Maßnahmen sind meist verlässlicher als die Hoffnung, dass alle immer daran denken.
Datenschutz sollte nicht davon abhängen, ob jemand am Freitagmittag noch motiviert genug ist, seinen Chatverlauf aufzuräumen.
Auch der Zugriff auf Chatverläufe muss geregelt werden. Grundsätzlich sollten Chatverläufe nur der Person zugänglich sein, die sie erstellt hat. Dafür braucht es sichere Authentifizierung, bei webbasierten Diensten in der Regel auch Zwei-Faktor-Authentifizierung.
Hinzu kommt: Viele Systeme bieten Feedback-Funktionen an. Wenn Nutzerinnen und Nutzer Chatverläufe bewerten oder zur Verbesserung melden, können Inhalte an den Anbieter übermittelt werden. Auch das ist datenschutzrechtlich relevant und sollte nicht nebenbei passieren.
Ebenso wichtig ist die Schulung der Beschäftigten. Sie müssen wissen, welche Daten sie in KI-Systeme eingeben dürfen und welche nicht. Besonders kritisch sind personenbezogene Daten Dritter, sensible Informationen, Geschäftsgeheimnisse und Daten, deren Zweckbindung durch den KI-Einsatz verändert würde.
KI-Kompetenz ist deshalb nicht nur ein Thema des EU AI Act. Sie ist auch praktische Datenschutzvorsorge.
Viele Plattformen erlauben inzwischen, eigene KI-Assistenten oder Agenten zu erstellen. Diese können mit festen Prompts und eigenen Wissensquellen arbeiten. Technische Handbücher, interne Richtlinien oder FAQ-Dokumente können dafür sinnvoll sein.
Problematisch wird es, wenn personenbezogene Daten als Wissensquelle eingebunden werden.
Vergangene Kundenanfragen, Bewerbungsunterlagen, Supporttickets oder interne E-Mails wurden meist für einen bestimmten Zweck erhoben. Werden sie später als dauerhafte Wissensquelle für KI-Systeme genutzt, kann darin eine Zweckänderung liegen. Dafür braucht es eine Rechtsgrundlage, transparente Information und die Möglichkeit, Betroffenenrechte auch in Bezug auf diese Wissensquelle umzusetzen.
Das ist technisch und organisatorisch anspruchsvoll.
Oft ist deshalb eine wirksame Anonymisierung vor dem Upload der bessere Weg. Aber auch hier gilt: Anonymisierung ist kein Zauberstab. Sie muss tatsächlich wirksam sein und sauber dokumentiert werden.
Bei vielen KI-Systemen spielt Retrieval Augmented Generation eine wichtige Rolle. Dabei werden große Dokumentenmengen nicht jedes Mal vollständig in das Modell kopiert. Stattdessen werden Dokumente vorverarbeitet, in einer Vektordatenbank gespeichert und bei einer Anfrage werden passende Textabschnitte wieder herangezogen.
Das klingt technisch. Ist aber rechtlich wichtig.
Denn wenn Originaltexte gespeichert und bei späteren Anfragen erneut genutzt werden, stellt sich weiterhin die Frage: Welche Daten liegen dort? Für welchen Zweck? Wer hat Zugriff? Wie werden sie gelöscht? Und wie werden Betroffenenrechte umgesetzt?
Gerade bei KI zeigt sich: Wer Technik nicht versteht, bewertet Datenschutz oft zu grob.
Ein weiteres wachsendes Einsatzfeld ist die automatische Transkription von Meetings und Telefonaten. Viele Videokonferenzsysteme können inzwischen Gespräche mitschreiben, Sprecher zuordnen, Zusammenfassungen erstellen und Aufgaben extrahieren.
Das ist nützlich. Aber es ist nicht nur ein digitales Notizbuch.
Eine wortgetreue Transkription kann einen erheblichen Eingriff darstellen. Je nach Gespräch können auch besondere Kategorien personenbezogener Daten betroffen sein, etwa Gesundheitsdaten. Außerdem kann bei Audioaufzeichnungen zusätzlich das Strafrecht relevant werden, insbesondere wenn das nichtöffentlich gesprochene Wort ohne Einwilligung aufgezeichnet wird.
In vielen Fällen wird deshalb die Einwilligung aller Beteiligten die rechtssicherste Lösung sein. Diese muss freiwillig, informiert, aktiv und nachweisbar erfolgen. Eine versteckte Formulierung in der Kalendereinladung reicht dafür nicht.
Wer nicht zustimmt, darf außerdem nicht faktisch aus dem Gespräch gedrängt werden. Freiwilligkeit ist keine Dekoration. Sie muss praktisch funktionieren.
Unabhängig von der konkreten Rechtsgrundlage gilt: Beteiligte müssen wissen, was passiert.
Bei Transkriptionen bedeutet das insbesondere Informationen über Zweck, Umfang, Speicherdauer, Art der Transkription und die Frage, ob auch Audiodaten gespeichert werden. Bei Telefonaten kann eine vollständige Information am Anfang schwierig sein. Dann braucht es zumindest eine verständliche Erstinformation und leicht zugängliche Detailinformationen.
Außerdem sollten Unternehmen berücksichtigen, dass KI-Transkripte Fehler enthalten können. Sprecher können falsch zugeordnet werden, Zusammenfassungen können ungenau sein, Aufgaben können der falschen Person zugeschrieben werden.
Eine KI-Zusammenfassung ist daher kein amtliches Protokoll, nur weil sie besonders ordentlich aussieht.
Datenschutzkonformer KI-Einsatz beginnt nicht erst, wenn etwas schiefgeht. Er beginnt vor der Einführung.
Unternehmen sollten vor dem Einsatz von KI-Systemen klären:
KI kann den Arbeitsalltag deutlich erleichtern. Aber sie braucht Regeln, Zuständigkeiten und ein Mindestmaß an technischer Nüchternheit.
Denn gute KI-Governance bedeutet nicht, Innovation zu bremsen.
Sie bedeutet, dass man den Motor startet, ohne vorher die Bremsleitung auszubauen.