ChatGPT und Datenschutz im Unternehmen: KI DSGVO-konform nutzen

ChatGPT und Datenschutz passen zusammen, wenn drei Dinge stimmen: ein Geschäftskonto mit Auftragsverarbeitungsvertrag, klare Regeln, welche Daten ins Chatfenster dürfen, und eine Lösung mit festem Speicherort für Kunden- und Personaldaten. Ein privates Gratiskonto mit Kundendaten ist dagegen nicht DSGVO-konform. Dieser Leitfaden zeigt Schritt für Schritt, wie Sie ChatGPT und andere KI-Werkzeuge im Unternehmen datenschutzkonform einsetzen.

In vielen Unternehmen läuft ChatGPT längst – nur weiß die Geschäftsführung nicht genau, wo. Der Vertrieb formuliert Angebote damit, die Buchhaltung lässt sich Formeln erklären, das Marketing schreibt Entwürfe. Die Frage nach KI und DSGVO kommt meist erst, wenn jemand eine Kundenliste in das Chatfenster kopiert hat. Die folgenden Abschnitte klären, was Sie eingeben dürfen, welche Verträge Sie brauchen, welche KI als DSGVO-konform gelten kann, wie eine interne KI-Richtlinie aussieht und wann sich ein eigener Assistent lohnt – die Grundlage jeder KI-Einführung im Unternehmen.

Wenn Kunden- oder Personaldaten das Haus gar nicht verlassen dürfen, ist ein offenes Sprachmodell auf dem eigenen Server die sauberste Lösung – siehe KI on-premise.

Stand Oktober 2026. Hinweis: Dieser Beitrag ist keine Rechtsberatung. Er beschreibt, worauf Unternehmen in der Praxis achten. Für Ihren konkreten Fall sprechen Sie bitte mit Ihrem Datenschutzbeauftragten oder einer Kanzlei.

Warum ChatGPT überhaupt ein Datenschutzthema ist

ChatGPT ist ein Werkzeug der generativen KI. Das Sprachmodell (LLM) dahinter verarbeitet alles, was Sie ihm schicken, auf den Servern des Anbieters. Sobald in einer Eingabe ein Name, eine E-Mail-Adresse, eine Kundennummer oder eine Krankmeldung steht, verarbeiten Sie personenbezogene Daten im Sinne der DSGVO. Damit gelten dieselben Regeln wie für jede andere Software, die Sie extern betreiben lassen: Sie brauchen eine Rechtsgrundlage, einen Vertrag mit dem Anbieter und eine Vorstellung davon, wo die Daten landen.

Drei Punkte machen KI-Chats heikler als ein normales Cloud-Programm:

• Freitext statt Formular. Ein CRM fragt nur die Felder ab, die es braucht. In ein Chatfenster kopieren Mitarbeiter ganze E-Mail-Verläufe, Verträge und Tabellen – mit allem, was darin steht.
• Training. Bei Verbraucherkonten können Eingaben je nach Einstellung zur Verbesserung der Modelle verwendet werden. Was einmal im Training steckt, lässt sich nicht zuverlässig wieder herausholen.
• Private Konten. Nutzt ein Mitarbeiter sein privates Konto, hat Ihr Unternehmen weder einen Vertrag noch Einblick – trotzdem bleiben Sie für die Daten Ihrer Kunden verantwortlich.

Was Sie eingeben dürfen – und was nicht

Die einfachste Regel für den Alltag lautet: Was Sie nicht in eine E-Mail an einen fremden Dienstleister schreiben würden, gehört auch nicht ungeschützt in einen KI-Chat. Konkreter hilft eine Ampel, die Sie Ihrem Team in einer Viertelstunde erklären können:

Oft reicht schon ein Handgriff: Namen durch „Kunde A“ ersetzen, Adressen weglassen, Zahlen runden. Für die meisten Formulierungs- und Analyseaufgaben braucht das Modell die echten Personendaten gar nicht.

ChatGPT für Unternehmen: privates Konto, Geschäftstarif oder API

ChatGPT gibt es in drei Formen, und für den Datenschutz macht das den entscheidenden Unterschied:

Für einzelne Geschäftstarife und die API bietet OpenAI inzwischen eine Datenspeicherung in Europa an. Ob das für Ihren Tarif gilt und was genau in Europa bleibt, prüfen Sie in den aktuellen Bedingungen. Für ChatGPT in der Firma heißt das: Wer KI breit einführt, ersetzt die privaten Konten durch einen Geschäftstarif und baut Abläufe mit Kunden- oder Personaldaten über die API in eigene Systeme ein.

Der Auftragsverarbeitungsvertrag: ohne AVV kein Einsatz mit Kundendaten

Wenn ein Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet, verlangt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV). Für KI-Anbieter gilt nichts anderes. Der Vertrag regelt, dass der Anbieter die Daten nur nach Ihrer Weisung nutzt, sie schützt und nach Vertragsende löscht.

Für ChatGPT bedeutet das in der Praxis: Kostenlose und private Konten bieten keinen AVV. OpenAI stellt einen Vertrag zur Auftragsverarbeitung für die Geschäftstarife und die Programmierschnittstelle bereit. Ob und wie Sie ihn abschließen, hängt vom gewählten Tarif ab – prüfen Sie die aktuellen Bedingungen beim Anbieter, sie ändern sich regelmäßig. Das Gleiche gilt für Microsoft Copilot, Google Gemini und jedes andere Werkzeug.

Beim Lesen eines AVV für ein KI-Werkzeug achten Sie vor allem auf vier Stellen:

1. Nutzung für Training. Steht ausdrücklich drin, dass Ihre Eingaben nicht zum Training verwendet werden?
2. Speicherort und Drittland. Wo liegen die Daten, und auf welcher Grundlage fließen sie gegebenenfalls in die USA – etwa über das EU-US Data Privacy Framework oder Standardvertragsklauseln?
3. Aufbewahrung und Löschung. Wie lange speichert der Anbieter Eingaben und Protokolle, und wie löschen Sie sie?
4. Unterauftragnehmer. Welche weiteren Firmen sind beteiligt, und werden Sie über Änderungen informiert?

KI und DSGVO: die Pflichten im Überblick

Ein AVV allein macht den Einsatz noch nicht datenschutzkonform. Er ist ein Baustein unter mehreren. Diese Checkliste deckt die Punkte ab, die in Gesprächen mit Datenschutzbeauftragten fast immer auf den Tisch kommen:

• Zweck festlegen. Wofür genau wird KI eingesetzt – Entwürfe für Kundenmails, Auswertung von Dokumenten, interne Suche?
• Rechtsgrundlage klären. Meist berechtigtes Interesse oder Vertragserfüllung; bei Beschäftigtendaten gelten eigene Regeln.
• Verarbeitungsverzeichnis ergänzen. Das KI-Werkzeug gehört wie jede andere Software in die Liste nach Art. 30 DSGVO.
• Datenschutzerklärung anpassen. Wenn Kundendaten durch KI laufen, müssen Kunden davon erfahren.
• Datenschutz-Folgenabschätzung prüfen. Bei umfangreicher Verarbeitung sensibler Daten oder bei Bewertungen von Personen kann eine DSFA nach Art. 35 DSGVO nötig sein.
• Keine Entscheidung allein durch die Maschine. Bewerbungen, Kredite oder Kündigungen entscheidet ein Mensch – die KI darf vorbereiten, nicht allein entscheiden (vgl. Art. 22 DSGVO).
• Mitarbeiter schulen. Seit Februar 2025 verlangt Artikel 4 der EU-KI-Verordnung, dass Unternehmen für ausreichende KI-Kompetenz ihres Personals sorgen. Was das konkret heißt, lesen Sie in unserem Beitrag zur KI-Schulungspflicht nach dem EU AI Act.

Keiner dieser Punkte ist neu. Sie kennen sie aus der Einführung von CRM, Cloud-Speicher oder Videokonferenzen. Neu ist nur, dass KI-Werkzeuge oft ohne Einkauf und ohne IT ins Haus kommen – und die Pflichten deshalb niemand abgearbeitet hat.

Welche KI ist DSGVO-konform?

Keine KI ist von sich aus DSGVO-konform oder verboten. Konform wird ein Einsatz, wenn Vertrag, Technik und Regeln zusammenpassen. Ob ein Werkzeug von einem US-Konzern, einem europäischen Anbieter oder aus dem eigenen Rechenzentrum kommt, entscheidet nur darüber, wie viel Prüfaufwand nötig ist. Für DSGVO-konforme KI-Tools hilft diese Prüfliste:

• Vertrag: Gibt es einen AVV nach Art. 28 DSGVO, und deckt er Ihren Tarif ab?
• Training: Ist vertraglich ausgeschlossen, dass Ihre Eingaben zum Training verwendet werden?
• Speicherort: Wo liegen Eingaben, Dateien und Protokolle? Bei Drittländern: auf welcher Grundlage?
• Löschung: Wie lange wird gespeichert, und können Sie Daten selbst löschen?
• Rechte: Sieht jeder Mitarbeitende nur, was er auch ohne KI sehen dürfte?
• Nachvollziehbarkeit: Lässt sich protokollieren, wer was abgefragt hat?

Die strengste Variante ist eine lokale KI: ein offenes Sprachmodell, das auf eigenen Servern läuft, sodass keine Eingabe das Unternehmen verlässt. Das lohnt sich vor allem bei besonders schutzbedürftigen Daten. Der Preis sind eigene Hardware oder gemietete Server und meist eine geringere Leistung als bei den großen Modellen. Für viele Mittelständler ist der Mittelweg sinnvoll: Dokumente und Suchindex liegen auf Servern in Deutschland, das Modell kommt von einem Anbieter mit AVV und ohne Training auf Ihren Daten.

Die interne KI-Richtlinie: eine Seite statt zwanzig

Verbote helfen wenig. Wer ChatGPT pauschal untersagt, bekommt die Nutzung über private Handys, nur eben unsichtbar. Besser wirkt eine kurze Richtlinie, die sagt, was erlaubt ist. Sie sollte auf eine Seite passen und diese Fragen beantworten:

• Welche KI-Werkzeuge sind freigegeben – und mit welchem Konto?
• Welche Daten dürfen hinein (die Ampel von oben)?
• Wer prüft Ergebnisse, bevor sie an Kunden gehen?
• Wie werden KI-Texte gekennzeichnet, wenn das nötig ist?
• An wen wendet man sich, wenn man unsicher ist oder aus Versehen Daten eingegeben hat?
• Wer entscheidet über neue Werkzeuge?

Die Richtlinie wirkt nur, wenn das Team sie versteht. Eine Stunde ChatGPT-Schulung mit echten Beispielen aus dem eigenen Alltag bringt mehr als ein langes PDF im Intranet. Genau so bauen wir die Workshops unserer KI-Akademie auf: mit Ihren Aufgaben, Ihren Werkzeugen und klaren Antworten darauf, was im Chatfenster nichts verloren hat.

Firmenkonto oder eigener KI-Assistent?

Für den datenschutzkonformen Einsatz gibt es im Kern zwei Wege. Beide sind legitim, sie passen nur zu unterschiedlichen Situationen:

Ein eigener Assistent ist kein Nachbau von ChatGPT. Er beantwortet Fragen aus Ihren eigenen Unterlagen – Handbüchern, Verträgen, Angeboten – über ein Verfahren namens Retrieval-Augmented Generation (RAG). Weil jede Antwort auf eine Quelle zeigt, sinkt auch das Risiko erfundener Aussagen – mehr dazu im Beitrag über KI-Halluzinationen und RAG. Dabei sieht jeder Mitarbeiter nur die Dokumente, auf die er ohnehin Zugriff hat. Die Personalabteilung findet Arbeitsverträge, der Vertrieb nicht.

Viele Unternehmen kombinieren beides: das Geschäftskonto für allgemeine Aufgaben, den eigenen Assistenten für alles, was mit Kunden- und Mitarbeiterdaten zu tun hat. Unsere eigenen Server stehen in Deutschland und der EU. Welcher Modellanbieter Daten verarbeitet und wo, steht bei unseren Projekten vollständig im AVV; Ihre Daten werden nicht zum Training verwendet.

Automatisierungen mit KI: n8n und DSGVO

Sobald KI nicht mehr nur im Chatfenster arbeitet, sondern in Abläufen, etwa beim Sortieren von Anfragen oder beim Auslesen von Belegen, kommen Automatisierungswerkzeuge ins Spiel. n8n ist dabei beliebt, weil es sich selbst betreiben lässt, zum Beispiel auf einem Server in Deutschland oder in Ihrer eigenen Infrastruktur. Das klärt den Speicherort der Abläufe, aber nicht den der KI: Jeder Schritt, der Daten an ein Sprachmodell schickt, braucht dieselbe Prüfung wie oben, also AVV, Speicherort und Ausschluss des Trainings. Wie sich n8n, Make und Zapier dabei unterscheiden, zeigt unser Vergleich der drei Werkzeuge; wie wir solche Abläufe aufbauen, steht auf der Seite n8n-Automatisierung.

Typische Fälle aus dem Mittelstand

Kundenanfragen beantworten. Die KI schreibt einen Antwortentwurf auf eine Reklamation, ein Mitarbeiter prüft und sendet. Datenschutzkonform wird das, wenn die Mail im eigenen System bleibt oder nur ohne Namen und Kontaktdaten an das Modell geht. Eine direkte Kopie des Verlaufs in ein privates ChatGPT-Konto ist die Variante, die Ärger macht.

Rechnungen und Lieferscheine auslesen. Belege enthalten Namen, Adressen und Bankverbindungen. Hier gehört die Verarbeitung in ein System mit AVV und festem Speicherort. Wie das in der Praxis aussieht, zeigt unsere Seite zur KI-Dokumentenverarbeitung.

Bewerbungen sichten. Die KI darf Unterlagen zusammenfassen und nach Kriterien sortieren. Die Entscheidung über Einladung oder Absage trifft ein Mensch, und Bewerber erfahren in der Datenschutzerklärung, dass KI mitliest.

Interne Wissensfrage. „Wie war noch mal die Kulanzregel bei Großkunden?“ Solche Fragen beantwortet ein Assistent mit Zugriff auf Ihre Handbücher. Personenbezogene Daten fallen dabei oft gar nicht an – ideal für den Einstieg.

In fünf Schritten zum datenschutzkonformen KI-Einsatz

1. Bestand aufnehmen. Fragen Sie offen nach, wer welche KI-Werkzeuge nutzt. Ohne Schuldzuweisung – sonst bekommen Sie keine ehrlichen Antworten.
2. Werkzeuge festlegen. Ein freigegebenes Firmenkonto mit AVV ersetzt die privaten Konten.
3. Richtlinie schreiben und schulen. Eine Seite, eine Stunde, echte Beispiele.
4. Sensible Abläufe gesondert lösen. Wo Kunden- oder Personaldaten im Spiel sind, lohnt ein eigener Assistent oder eine Automatisierung mit festem Speicherort.
5. Dokumentieren und nachprüfen. Verarbeitungsverzeichnis, Datenschutzerklärung, jährlicher Blick auf neue Tarife und Bedingungen.

Wenn Sie diese Schritte nicht allein gehen wollen: Bei der KI-Implementierung begleiten wir Unternehmen von der Bestandsaufnahme bis zum laufenden Betrieb – mit Systemen auf Servern in Deutschland und der EU, gemeinsam mit Ihrem Datenschutzbeauftragten. Vereinbaren Sie ein kostenfreies Erstgespräch, dann klären wir, welcher Weg für Ihre Daten passt.

Häufige Fragen

Ist ChatGPT DSGVO-konform?

Das Werkzeug selbst ist weder konform noch verboten – entscheidend ist, wie Sie es einsetzen. Mit einem Geschäftskonto, abgeschlossenem AVV, deaktiviertem Training und klaren Regeln für die Eingaben lässt sich ChatGPT in vielen Fällen datenschutzkonform nutzen. Ein privates Gratiskonto mit Kundendaten ist es nicht.

Gibt es eine DSGVO-konforme KI?

Keine KI ist automatisch konform. Entscheidend sind AVV, Speicherort, Ausschluss des Trainings, Löschfristen und Zugriffsrechte. Wer diese Punkte nicht beim Anbieter klären will oder kann, setzt auf eine lokale KI auf eigenen Servern.

Brauche ich einen AVV, wenn ich nur Texte formulieren lasse?

Wenn in den Texten keine personenbezogenen Daten stehen, greift Art. 28 DSGVO in der Regel nicht. In der Praxis rutschen aber schnell Namen oder E-Mail-Adressen hinein. Ein Firmenkonto mit AVV ist deshalb die sichere Grundlage, sobald mehr als eine Person im Unternehmen KI nutzt.

Darf ich Kundendaten in ChatGPT eingeben?

Nur, wenn ein AVV besteht, die Rechtsgrundlage geklärt ist und der Zweck dokumentiert ist. Häufig ist es einfacher, die Daten vorher zu anonymisieren. Für regelmäßige Verarbeitung von Kundendaten ist ein eigenes System mit festem Speicherort die robustere Lösung.

Reicht es, das Training in den Einstellungen auszuschalten?

Nein. Die Einstellung verhindert, dass Eingaben zur Modellverbesserung genutzt werden. Sie ersetzt weder den AVV noch die Klärung von Speicherort, Löschfristen und Rechtsgrundlage.

Müssen wir unsere Mitarbeiter im Umgang mit KI schulen?

Ja. Artikel 4 der EU-KI-Verordnung verlangt seit Februar 2025, dass Unternehmen, die KI-Systeme einsetzen, für ausreichende KI-Kompetenz ihres Personals sorgen. Datenschutz gehört in jede dieser Schulungen.

Was ist sicherer: Firmenkonto oder eigener Assistent?

Beides kann sicher sein. Der eigene Assistent gibt Ihnen mehr Kontrolle über Speicherort, Rechte und Löschung und eignet sich deshalb besser für Kunden- und Personaldaten. Für allgemeine Formulierungs- und Rechercheaufgaben reicht meist ein Geschäftskonto mit AVV.