ChatGPT im Unternehmen DSGVO-konform nutzen

Private ChatGPT-Konten, fehlende AVV, unklare Drittlandtransfers: Was Unternehmen beim Einsatz von KI-Chats datenschutzrechtlich klären müssen – mit Checkliste.

Dieser Beitrag ist keine Rechtsberatung.

In vielen Unternehmen wird ChatGPT längst genutzt – nur nicht offiziell. Mitarbeitende formulieren E-Mails, fassen Verträge zusammen oder lassen Excel-Formeln erklären, oft mit einem privaten Konto. Das ist verständlich, denn die Werkzeuge sind nützlich. Für die Geschäftsführung entsteht dabei aber ein Risiko, das sie nicht steuert. Dieser Beitrag zeigt, welche Fragen Sie klären müssen, damit der Einsatz von KI-Chats mit der DSGVO vereinbar ist, und wie Sie daraus eine tragfähige Lösung machen.

Das eigentliche Problem: Schatten-KI

Schatten-KI bezeichnet KI-Dienste, die ohne Freigabe und ohne vertragliche Grundlage im Arbeitsalltag eingesetzt werden. Das typische Beispiel ist ein privates ChatGPT-Konto, in das Kundendaten, Angebote oder interne Dokumente kopiert werden. Daraus ergeben sich mehrere Probleme zugleich:

Kein Vertrag: Zwischen Ihrem Unternehmen und dem Anbieter besteht keine Vereinbarung. Der Anbieter verarbeitet die Daten auf Grundlage seiner Verbraucherbedingungen.
Keine Kontrolle: Sie wissen nicht, welche Daten das Unternehmen verlassen haben, und können Konten ausscheidender Mitarbeitender nicht sperren.
Training auf Eingaben: Bei Consumer-Tarifen können Eingaben je nach Einstellung zur Verbesserung der Modelle verwendet werden. OpenAI beschreibt in seiner Hilfe zur Datennutzung, dass dies bei persönlichen Konten standardmäßig aktiv ist und abgeschaltet werden kann, während Business-, Enterprise- und API-Daten standardmäßig nicht zum Training verwendet werden.
Keine Nachvollziehbarkeit: Ohne zentrale Lösung gibt es keine Rollen, keine Protokolle und keine Grundlage für Auskunfts- oder Löschanfragen.

Ein pauschales Verbot löst das selten. Der Bedarf bleibt, die Nutzung wandert nur weiter in den Schatten. Wirksamer ist ein freigegebenes Werkzeug mit klaren Regeln.

Welche Rechtsgrundlage brauchen Sie?

Sobald personenbezogene Daten in einen KI-Chat gelangen – Namen, E-Mail-Adressen, Gesprächsnotizen, Bewerbungsunterlagen –, ist die DSGVO anwendbar. Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO. Im Unternehmensalltag kommen vor allem die Vertragserfüllung (lit. b) und das berechtigte Interesse (lit. f) in Betracht, etwa wenn ein Vertriebsmitarbeiter eine Kundenanfrage mit KI-Unterstützung beantwortet. Beim berechtigten Interesse müssen Sie eine Abwägung mit den Interessen der Betroffenen vornehmen und dokumentieren.

Besonders sensibel sind besondere Kategorien nach Art. 9 DSGVO, etwa Gesundheitsdaten, sowie Beschäftigtendaten. Hier sollten Sie die Nutzung eng begrenzen oder ausschließen. Die Datenschutzkonferenz (DSK) hat in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ zusammengestellt, worauf Verantwortliche bei Auswahl und Einsatz von KI-Anwendungen achten sollten.

Auftragsverarbeitungsvertrag nach Art. 28 DSGVO

Setzen Sie einen externen KI-Dienst ein, der personenbezogene Daten in Ihrem Auftrag verarbeitet, brauchen Sie einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Er regelt unter anderem, dass der Anbieter nur auf Ihre Weisung verarbeitet, welche technischen und organisatorischen Maßnahmen (TOM) gelten und welche Unterauftragsverarbeiter eingebunden sind.

Ein Consumer-Konto bietet diese Grundlage nicht. Achten Sie bei der Auswahl darauf, dass der AVV vor der Nutzung abgeschlossen werden kann, dass die Liste der Unterauftragsverarbeiter einsehbar ist und dass Sie über Änderungen informiert werden. Prüfen Sie auch, wer bei mehrstufigen Lösungen tatsächlich die Modelle betreibt: Eine Plattform kann selbst in Deutschland gehostet sein und trotzdem Anfragen an einen Modellanbieter weiterreichen.

Drittlandtransfer: Was gilt für US-Anbieter?

Werden Daten in die USA übermittelt, greifen die Regeln der Art. 44 ff. DSGVO. Am 10. Juli 2023 hat die EU-Kommission einen Angemessenheitsbeschluss für das EU-U.S. Data Privacy Framework erlassen. Übermittlungen an US-Unternehmen, die nach diesem Rahmen zertifiziert sind, sind damit ohne zusätzliche Standardvertragsklauseln zulässig. Ob ein Anbieter zertifiziert ist, können Sie in der offiziellen Teilnehmerliste prüfen.

Der Rahmen hat eine Klage vor dem Gericht der EU überstanden, bleibt aber politisch und rechtlich umstritten. Viele Unternehmen bevorzugen deshalb Modelle, die in EU-Rechenzentren betrieben werden. Das reduziert die Abhängigkeit von einer einzelnen Rechtsgrundlage und vereinfacht die Dokumentation. Mehr dazu lesen Sie im Ratgeber DSGVO und KI.

Zugriffsrechte: Wer darf was sehen?

Datenschutz endet nicht beim Anbietervertrag. Sobald KI-Chats auf Unternehmenswissen zugreifen – Handbücher, Verträge, Projektordner –, stellt sich die Frage, wer welche Inhalte über die KI abrufen darf. Ein Werkzeug, das jedem Mitarbeitenden alle Dokumente zugänglich macht, verletzt schnell das Need-to-know-Prinzip. Achten Sie deshalb auf rollenbasierte Zugriffsrechte (RBAC) auf Ebene der einzelnen Ressource und darauf, dass die KI nur Inhalte verwendet, die die fragende Person auch selbst öffnen dürfte.

Richtlinie und KI-Kompetenz nach Art. 4 AI Act

Seit dem 2. Februar 2025 verlangt Art. 4 der KI-Verordnung (AI Act), dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen. Für Unternehmen, die KI-Chats einsetzen, heißt das praktisch: Schulen Sie Ihre Mitarbeitenden und halten Sie die Regeln schriftlich fest. Einen Überblick über die Pflichten gibt der Ratgeber EU AI Act.

Eine KI-Richtlinie muss nicht lang sein. Sie sollte mindestens regeln:

welche KI-Werkzeuge freigegeben sind und welche nicht,
welche Datenarten eingegeben werden dürfen und welche ausgeschlossen sind,
dass Ergebnisse vor der Verwendung geprüft werden, weil Modelle halluzinieren können,
wer Ansprechpartner für Fragen und Vorfälle ist,
wie neue Anwendungsfälle freigegeben werden.

Haben Sie einen Betriebsrat, sollten Sie ihn frühzeitig einbinden. Werkzeuge, die Nutzungsdaten protokollieren, können mitbestimmungspflichtig sein.

Checkliste für den DSGVO-konformen Einsatz

Bestandsaufnahme: Ermitteln Sie, welche KI-Dienste heute bereits genutzt werden und wofür.
Werkzeug auswählen: Setzen Sie auf einen Business-Tarif oder eine Plattform mit AVV, einsehbaren Unterauftragsverarbeitern und klaren Aussagen zum Training.
Datenflüsse dokumentieren: Halten Sie fest, wo die Plattform gehostet wird, welche Modellanbieter eingebunden sind und in welchen Regionen sie verarbeiten.
Rechtsgrundlage und Verarbeitungsverzeichnis: Ergänzen Sie das Verzeichnis nach Art. 30 DSGVO und prüfen Sie, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist.
Rechte konfigurieren: Legen Sie Rollen und Zugriffe fest, bevor Sie Unternehmenswissen anbinden.
Richtlinie und Schulung: Veröffentlichen Sie Regeln und dokumentieren Sie die Schulungen zur KI-Kompetenz.
Private Konten ablösen: Kommunizieren Sie die freigegebene Alternative und bitten Sie um den Verzicht auf private Konten für dienstliche Daten.
Regelmäßig prüfen: Kontrollieren Sie Änderungen bei Unterauftragsverarbeitern und Modellanbietern.

Wie AIPE diese Anforderungen adressiert

AIPE ist eine gehostete KI-Plattform für den Mittelstand, die viele dieser Punkte von Anfang an berücksichtigt. Die Plattform wird primär bei Hetzner in Deutschland betrieben. Den Auftragsverarbeitungsvertrag können Sie online einsehen, inklusive TOM und Liste der Unterauftragsverarbeiter.

Die Modellanbieter sind pro Organisation konfigurierbar. Für die veröffentlichten Anbieter stehen EU-Regionen zur Verfügung, etwa Azure OpenAI in Sweden Central, Amazon Bedrock in Frankfurt, Google Vertex AI in europe-west1 und Mistral in der EU. Mit BYOK hinterlegen Sie auf Wunsch eigene Anbieter-Schlüssel und behalten so Ihre bestehenden Verträge.

Rollen, Gruppen und Freigaben gelten pro Organisation und pro Ressource – für Dateien, Chats, Agenten und Wiki. Antworten aus dem Unternehmenswissen enthalten Quellenangaben, sodass Mitarbeitende Ergebnisse prüfen können. Damit erhalten Ihre Teams eine freigegebene Alternative zum privaten Konto. Einen Überblick über die Funktionen finden Sie auf der Plattformseite. Wenn Sie Ihren konkreten Fall besprechen möchten, buchen Sie einen Termin.