ChatGPT im Unternehmen datenschutzkonform nutzen: KI und DSGVO

In vielen Unternehmen läuft ChatGPT längst – nur weiß die Geschäftsführung nicht genau, wo. Der Vertrieb formuliert Angebote damit, die Buchhaltung lässt sich Formeln erklären, das Marketing schreibt Entwürfe. Die Frage nach KI und DSGVO kommt meist erst, wenn jemand eine Kundenliste in das Chatfenster kopiert hat. Dieser Leitfaden zeigt, wie Sie ChatGPT im Unternehmen datenschutzkonform nutzen: was Sie in KI-Werkzeuge eingeben dürfen, welche Verträge Sie brauchen, wie eine interne KI-Richtlinie aussieht und wann sich ein eigener Assistent auf Servern in Deutschland lohnt – die Grundlage jeder KI-Einführung im Unternehmen.

Hinweis: Dieser Beitrag ist keine Rechtsberatung. Er beschreibt, worauf Unternehmen in der Praxis achten. Für Ihren konkreten Fall sprechen Sie bitte mit Ihrem Datenschutzbeauftragten oder einer Kanzlei.

Warum ChatGPT überhaupt ein Datenschutzthema ist

ChatGPT ist ein Werkzeug der generativen KI. Das Sprachmodell (LLM) dahinter verarbeitet alles, was Sie ihm schicken, auf den Servern des Anbieters. Sobald in einer Eingabe ein Name, eine E-Mail-Adresse, eine Kundennummer oder eine Krankmeldung steht, verarbeiten Sie personenbezogene Daten im Sinne der DSGVO. Damit gelten dieselben Regeln wie für jede andere Software, die Sie extern betreiben lassen: Sie brauchen eine Rechtsgrundlage, einen Vertrag mit dem Anbieter und eine Vorstellung davon, wo die Daten landen.

Drei Punkte machen KI-Chats heikler als ein normales Cloud-Programm:

• Freitext statt Formular. Ein CRM fragt nur die Felder ab, die es braucht. In ein Chatfenster kopieren Mitarbeiter ganze E-Mail-Verläufe, Verträge und Tabellen – mit allem, was darin steht.
• Training. Bei Verbraucherkonten können Eingaben je nach Einstellung zur Verbesserung der Modelle verwendet werden. Was einmal im Training steckt, lässt sich nicht zuverlässig wieder herausholen.
• Private Konten. Nutzt ein Mitarbeiter sein privates Konto, hat Ihr Unternehmen weder einen Vertrag noch Einblick – trotzdem bleiben Sie für die Daten Ihrer Kunden verantwortlich.

Was Sie eingeben dürfen – und was nicht

Die einfachste Regel für den Alltag lautet: Was Sie nicht in eine E-Mail an einen fremden Dienstleister schreiben würden, gehört auch nicht ungeschützt in einen KI-Chat. Konkreter hilft eine Ampel, die Sie Ihrem Team in einer Viertelstunde erklären können:

Oft reicht schon ein Handgriff: Namen durch „Kunde A“ ersetzen, Adressen weglassen, Zahlen runden. Für die meisten Formulierungs- und Analyseaufgaben braucht das Modell die echten Personendaten gar nicht.

Der Auftragsverarbeitungsvertrag: ohne AVV kein Einsatz mit Kundendaten

Wenn ein Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet, verlangt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV). Für KI-Anbieter gilt nichts anderes. Der Vertrag regelt, dass der Anbieter die Daten nur nach Ihrer Weisung nutzt, sie schützt und nach Vertragsende löscht.

Für ChatGPT bedeutet das in der Praxis: Kostenlose und private Konten bieten keinen AVV. OpenAI stellt einen Vertrag zur Auftragsverarbeitung für die Geschäftstarife und die Programmierschnittstelle bereit. Ob und wie Sie ihn abschließen, hängt vom gewählten Tarif ab – prüfen Sie die aktuellen Bedingungen beim Anbieter, sie ändern sich regelmäßig. Das Gleiche gilt für Microsoft Copilot, Google Gemini und jedes andere Werkzeug.

Beim Lesen eines AVV für ein KI-Werkzeug achten Sie vor allem auf vier Stellen:

1. Nutzung für Training. Steht ausdrücklich drin, dass Ihre Eingaben nicht zum Training verwendet werden?
2. Speicherort und Drittland. Wo liegen die Daten, und auf welcher Grundlage fließen sie gegebenenfalls in die USA – etwa über das EU-US Data Privacy Framework oder Standardvertragsklauseln?
3. Aufbewahrung und Löschung. Wie lange speichert der Anbieter Eingaben und Protokolle, und wie löschen Sie sie?
4. Unterauftragnehmer. Welche weiteren Firmen sind beteiligt, und werden Sie über Änderungen informiert?

KI und DSGVO: die Pflichten im Überblick

Ein AVV allein macht den Einsatz noch nicht datenschutzkonform. Er ist ein Baustein unter mehreren. Diese Checkliste deckt die Punkte ab, die in Gesprächen mit Datenschutzbeauftragten fast immer auf den Tisch kommen:

• Zweck festlegen. Wofür genau wird KI eingesetzt – Entwürfe für Kundenmails, Auswertung von Dokumenten, interne Suche?
• Rechtsgrundlage klären. Meist berechtigtes Interesse oder Vertragserfüllung; bei Beschäftigtendaten gelten eigene Regeln.
• Verarbeitungsverzeichnis ergänzen. Das KI-Werkzeug gehört wie jede andere Software in die Liste nach Art. 30 DSGVO.
• Datenschutzerklärung anpassen. Wenn Kundendaten durch KI laufen, müssen Kunden davon erfahren.
• Datenschutz-Folgenabschätzung prüfen. Bei umfangreicher Verarbeitung sensibler Daten oder bei Bewertungen von Personen kann eine DSFA nach Art. 35 DSGVO nötig sein.
• Keine Entscheidung allein durch die Maschine. Bewerbungen, Kredite oder Kündigungen entscheidet ein Mensch – die KI darf vorbereiten, nicht allein entscheiden (vgl. Art. 22 DSGVO).
• Mitarbeiter schulen. Seit Februar 2025 verlangt Artikel 4 der EU-KI-Verordnung, dass Unternehmen für ausreichende KI-Kompetenz ihres Personals sorgen. Was das konkret heißt, lesen Sie in unserem Beitrag zur KI-Schulungspflicht nach dem EU AI Act.

Keiner dieser Punkte ist neu. Sie kennen sie aus der Einführung von CRM, Cloud-Speicher oder Videokonferenzen. Neu ist nur, dass KI-Werkzeuge oft ohne Einkauf und ohne IT ins Haus kommen – und die Pflichten deshalb niemand abgearbeitet hat.

Die interne KI-Richtlinie: eine Seite statt zwanzig

Verbote helfen wenig. Wer ChatGPT pauschal untersagt, bekommt die Nutzung über private Handys, nur eben unsichtbar. Besser wirkt eine kurze Richtlinie, die sagt, was erlaubt ist. Sie sollte auf eine Seite passen und diese Fragen beantworten:

• Welche KI-Werkzeuge sind freigegeben – und mit welchem Konto?
• Welche Daten dürfen hinein (die Ampel von oben)?
• Wer prüft Ergebnisse, bevor sie an Kunden gehen?
• Wie werden KI-Texte gekennzeichnet, wenn das nötig ist?
• An wen wendet man sich, wenn man unsicher ist oder aus Versehen Daten eingegeben hat?
• Wer entscheidet über neue Werkzeuge?

Die Richtlinie wirkt nur, wenn das Team sie versteht. Eine Stunde Schulung mit echten Beispielen aus dem eigenen Alltag bringt mehr als ein langes PDF im Intranet. Genau so bauen wir die Workshops unserer KI-Akademie auf: mit Ihren Aufgaben, Ihren Werkzeugen und klaren Antworten darauf, was im Chatfenster nichts verloren hat.

Firmenkonto oder eigener KI-Assistent?

Für den datenschutzkonformen Einsatz gibt es im Kern zwei Wege. Beide sind legitim, sie passen nur zu unterschiedlichen Situationen:

Ein eigener Assistent ist kein Nachbau von ChatGPT. Er beantwortet Fragen aus Ihren eigenen Unterlagen – Handbüchern, Verträgen, Angeboten – über ein Verfahren namens Retrieval-Augmented Generation (RAG). Weil jede Antwort auf eine Quelle zeigt, sinkt auch das Risiko erfundener Aussagen – mehr dazu im Beitrag über KI-Halluzinationen und RAG. Dabei sieht jeder Mitarbeiter nur die Dokumente, auf die er ohnehin Zugriff hat. Die Personalabteilung findet Arbeitsverträge, der Vertrieb nicht.

Viele Unternehmen kombinieren beides: das Geschäftskonto für allgemeine Aufgaben, den eigenen Assistenten für alles, was mit Kunden- und Mitarbeiterdaten zu tun hat. Für unsere eigenen Systeme nutzen wir ausschließlich Server in Deutschland – das vereinfacht die Frage nach dem Speicherort erheblich.

Typische Fälle aus dem Mittelstand

Kundenanfragen beantworten. Die KI schreibt einen Antwortentwurf auf eine Reklamation, ein Mitarbeiter prüft und sendet. Datenschutzkonform wird das, wenn die Mail im eigenen System bleibt oder nur ohne Namen und Kontaktdaten an das Modell geht. Eine direkte Kopie des Verlaufs in ein privates ChatGPT-Konto ist die Variante, die Ärger macht.

Rechnungen und Lieferscheine auslesen. Belege enthalten Namen, Adressen und Bankverbindungen. Hier gehört die Verarbeitung in ein System mit AVV und festem Speicherort. Wie das in der Praxis aussieht, zeigt unsere Seite zur KI-Dokumentenverarbeitung.

Bewerbungen sichten. Die KI darf Unterlagen zusammenfassen und nach Kriterien sortieren. Die Entscheidung über Einladung oder Absage trifft ein Mensch, und Bewerber erfahren in der Datenschutzerklärung, dass KI mitliest.

Interne Wissensfrage. „Wie war noch mal die Kulanzregel bei Großkunden?“ Solche Fragen beantwortet ein Assistent mit Zugriff auf Ihre Handbücher. Personenbezogene Daten fallen dabei oft gar nicht an – ideal für den Einstieg.

In fünf Schritten zum datenschutzkonformen KI-Einsatz

1. Bestand aufnehmen. Fragen Sie offen nach, wer welche KI-Werkzeuge nutzt. Ohne Schuldzuweisung – sonst bekommen Sie keine ehrlichen Antworten.
2. Werkzeuge festlegen. Ein freigegebenes Firmenkonto mit AVV ersetzt die privaten Konten.
3. Richtlinie schreiben und schulen. Eine Seite, eine Stunde, echte Beispiele.
4. Sensible Abläufe gesondert lösen. Wo Kunden- oder Personaldaten im Spiel sind, lohnt ein eigener Assistent oder eine Automatisierung mit festem Speicherort.
5. Dokumentieren und nachprüfen. Verarbeitungsverzeichnis, Datenschutzerklärung, jährlicher Blick auf neue Tarife und Bedingungen.

Wenn Sie diese Schritte nicht allein gehen wollen: Bei der KI-Implementierung begleiten wir Unternehmen von der Bestandsaufnahme bis zum laufenden Betrieb – mit Systemen auf Servern in Deutschland und gemeinsam mit Ihrem Datenschutzbeauftragten. Vereinbaren Sie ein kostenfreies Erstgespräch, dann klären wir, welcher Weg für Ihre Daten passt.

Häufige Fragen

Ist ChatGPT DSGVO-konform?

Das Werkzeug selbst ist weder konform noch verboten – entscheidend ist, wie Sie es einsetzen. Mit einem Geschäftskonto, abgeschlossenem AVV, deaktiviertem Training und klaren Regeln für die Eingaben lässt sich ChatGPT in vielen Fällen datenschutzkonform nutzen. Ein privates Gratiskonto mit Kundendaten ist es nicht.

Brauche ich einen AVV, wenn ich nur Texte formulieren lasse?

Wenn in den Texten keine personenbezogenen Daten stehen, greift Art. 28 DSGVO in der Regel nicht. In der Praxis rutschen aber schnell Namen oder E-Mail-Adressen hinein. Ein Firmenkonto mit AVV ist deshalb die sichere Grundlage, sobald mehr als eine Person im Unternehmen KI nutzt.

Darf ich Kundendaten in ChatGPT eingeben?

Nur, wenn ein AVV besteht, die Rechtsgrundlage geklärt ist und der Zweck dokumentiert ist. Häufig ist es einfacher, die Daten vorher zu anonymisieren. Für regelmäßige Verarbeitung von Kundendaten ist ein eigenes System mit festem Speicherort die robustere Lösung.

Reicht es, das Training in den Einstellungen auszuschalten?

Nein. Die Einstellung verhindert, dass Eingaben zur Modellverbesserung genutzt werden. Sie ersetzt weder den AVV noch die Klärung von Speicherort, Löschfristen und Rechtsgrundlage.

Müssen wir unsere Mitarbeiter im Umgang mit KI schulen?

Ja. Artikel 4 der EU-KI-Verordnung verlangt seit Februar 2025, dass Unternehmen, die KI-Systeme einsetzen, für ausreichende KI-Kompetenz ihres Personals sorgen. Datenschutz gehört in jede dieser Schulungen.

Was ist sicherer: Firmenkonto oder eigener Assistent?

Beides kann sicher sein. Der eigene Assistent gibt Ihnen mehr Kontrolle über Speicherort, Rechte und Löschung und eignet sich deshalb besser für Kunden- und Personaldaten. Für allgemeine Formulierungs- und Rechercheaufgaben reicht meist ein Geschäftskonto mit AVV.