DSGVO-konforme KI: die ChatGPT-Alternative für Unternehmen

Warum DSGVO und KI so oft kollidieren

Generative KI ist für Mitarbeitende so einfach zu nutzen wie eine Suchmaschine. Genau darin liegt das Datenschutzrisiko: Wer einen Kundenbrief, eine Bewerbung oder eine Reklamation in ein privates Chat-Konto kopiert, übermittelt personenbezogene Daten an einen Anbieter, mit dem das Unternehmen keinen Vertrag hat. Ob die Eingaben gespeichert, ausgewertet oder für Training genutzt werden, ist dann kaum kontrollierbar.

Die Lösung ist selten ein Verbot. Verbote verlagern die Nutzung in private Kanäle, die sogenannte Schatten-KI. Wirksamer ist ein freigegebenes Werkzeug, das die Anforderungen der Datenschutz-Grundverordnung (DSGVO) technisch und vertraglich erfüllt – eine DSGVO-konforme KI, die Mitarbeitende gerne nutzen.

Für Entscheider bedeutet das: Die Auswahl des Werkzeugs ist der erste, aber nicht der einzige Schritt. Ebenso wichtig sind die Konfiguration – welche Modelle, welche Datenquellen, welche Rechte – und die Regeln, nach denen Mitarbeitende arbeiten. Dieser Ratgeber führt durch alle drei Ebenen.

Die rechtlichen Grundlagen im Überblick

Für den KI-Einsatz im Unternehmen sind vor allem diese Vorschriften der DSGVO relevant:

• Art. 5 – Grundsätze: Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität und Vertraulichkeit.
• Art. 6 – Rechtsgrundlage: Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage, im Unternehmenskontext oft Vertragserfüllung oder berechtigtes Interesse. Für Beschäftigtendaten kommen arbeitsrechtliche Besonderheiten hinzu.
• Art. 13 und 14 – Informationspflichten: Betroffene müssen erfahren, dass und wie ihre Daten verarbeitet werden.
• Art. 22 – automatisierte Entscheidungen: Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen grundsätzlich nicht ausschließlich automatisiert getroffen werden.
• Art. 28 – Auftragsverarbeitung: Verarbeitet ein KI-Anbieter Daten im Auftrag des Unternehmens, ist ein Auftragsverarbeitungsvertrag (AVV) Pflicht.
• Art. 30 – Verzeichnis von Verarbeitungstätigkeiten: Der KI-Einsatz gehört ins Verarbeitungsverzeichnis.
• Art. 32 – Sicherheit: Angemessene technische und organisatorische Maßnahmen (TOM), etwa Zugriffskontrolle und Verschlüsselung.
• Art. 35 – Datenschutz-Folgenabschätzung: Bei voraussichtlich hohem Risiko, etwa umfangreicher Verarbeitung sensibler Daten, ist eine DSFA erforderlich.
• Art. 44 ff. – Drittlandtransfers: Übermittlungen außerhalb der EU brauchen einen Angemessenheitsbeschluss oder geeignete Garantien.

Die Datenschutzkonferenz (DSK) hat 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die diese Anforderungen für Verantwortliche konkretisiert. Sie ist ein guter Ausgangspunkt für die interne Prüfung.

Die sieben Prüfpunkte für eine DSGVO-konforme KI

1. Vertrag und Rollen

Klären Sie, ob der Anbieter als Auftragsverarbeiter tätig ist, und schließen Sie einen AVV nach Art. 28 DSGVO ab. Der Vertrag muss Weisungsbindung, Vertraulichkeit, TOM, den Umgang mit Unterauftragsverarbeitern, Unterstützungspflichten und die Löschung nach Vertragsende regeln. Prüfen Sie zusätzlich die Liste der Unterauftragsverarbeiter: Welche Modellanbieter, Hosting-Dienste und Zusatzdienste sind beteiligt?

2. Speicherort und Drittlandtransfers

Wo werden Daten gespeichert und wo werden Modellanfragen verarbeitet? Für die USA besteht seit dem 10. Juli 2023 ein Angemessenheitsbeschluss der EU-Kommission für Unternehmen, die unter dem EU-US Data Privacy Framework zertifiziert sind. Andernfalls sind Standardvertragsklauseln und eine Transfer-Folgenabschätzung nötig. Viele Unternehmen bevorzugen Anbieter, die Daten in der EU speichern und Modelle in EU-Regionen nutzen – das vereinfacht die Bewertung, ersetzt sie aber nicht.

3. Keine Nutzung für Training

Eingaben und Dokumente sollten nicht zum Training von Modellen verwendet werden. Training ist ein eigener Verarbeitungszweck, der eine eigene Rechtsgrundlage bräuchte und Daten dauerhaft in ein Modell einfließen lassen kann. Achten Sie darauf, dass dies vertraglich ausgeschlossen ist – auch bei den Modellanbietern in der Kette.

4. Zugriffsrechte, die auch in der KI gelten

Eine KI mit Zugriff auf Dateiablagen, E-Mails oder CRM darf Inhalte nur denjenigen zeigen, die sie auch ohne KI sehen dürften. Das setzt rollenbasierte Zugriffskontrolle voraus, die beim Durchsuchen des Wissens greift – nicht nur in der Oberfläche. Sonst kann eine harmlose Frage vertrauliche Gehalts- oder Personaldaten zutage fördern.

5. Datenminimierung und Löschung

Binden Sie nur die Quellen an, die für den Zweck nötig sind. Legen Sie fest, wie lange Chats, hochgeladene Dateien und Transkripte gespeichert werden, und stellen Sie sicher, dass gelöschte Dokumente nicht mehr in Antworten auftauchen.

6. Transparenz und Betroffenenrechte

Informieren Sie Beschäftigte, Kunden und Bewerber in den Datenschutzhinweisen über den KI-Einsatz. Auskunft, Berichtigung und Löschung müssen auch für Daten möglich sein, die in KI-Chats, Wissensdatenbanken oder Transkripten liegen. Ein zentrales Werkzeug erleichtert das erheblich, weil die Daten an einem Ort liegen.

7. Interne Regeln und Schulung

Eine KI-Richtlinie legt fest, welche Werkzeuge zugelassen sind, welche Daten eingegeben werden dürfen und wann Ergebnisse geprüft werden müssen. Ergänzend verlangt Art. 4 des EU AI Act Maßnahmen zur KI-Kompetenz der Mitarbeitenden. Beides lässt sich gut in einer gemeinsamen Schulung abdecken. Wenn ein Betriebsrat besteht, ist er bei der Einführung zu beteiligen, weil KI-Systeme regelmäßig geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen.

ChatGPT-Alternative für Unternehmen: Worauf es ankommt

Viele Unternehmen suchen eine „ChatGPT-Alternative“ – gemeint ist meist ein Werkzeug, das die gewohnte Bedienung bietet, aber unter Unternehmenskontrolle steht. Diese Kriterien unterscheiden eine Unternehmenslösung von einem privaten Chat-Abo:

• Zentrale Verwaltung: Konten, Rollen und Rechte verwaltet das Unternehmen, nicht der einzelne Mitarbeitende.
• Vertragliche Absicherung: AVV, TOM und offengelegte Unterauftragsverarbeiter liegen vor.
• Modellwahl: Mehrere Modelle und Anbieter stehen zur Wahl; die Organisation entscheidet, welche zugelassen sind. Optional lassen sich eigene Schlüssel (BYOK) hinterlegen.
• Unternehmenswissen mit Quellen: Die KI beantwortet Fragen aus freigegebenen Dokumenten und nennt die Quellen – mehr dazu im Ratgeber KI-Wissensdatenbank.
• Kostenkontrolle: Nutzung lässt sich nach Personen oder Kostenstellen auswerten und begrenzen.
• Integrationen: E-Mail, Kalender, Dateiablagen und Fachsysteme sind angebunden, damit Daten nicht kopiert werden müssen.

Eine ausführliche Anleitung für die Einführung bietet der Beitrag ChatGPT im Unternehmen DSGVO-konform nutzen. Einen Anbietervergleich finden Sie unter Vergleich.

Sonderfälle: Meetings, Personal und sensible Daten

Einige Einsatzfelder verdienen besondere Sorgfalt:

• Meeting-Aufnahmen und Transkripte: Das nichtöffentlich gesprochene Wort ist strafrechtlich geschützt (§ 201 StGB). Teilnehmende müssen vor der Aufnahme informiert werden und zustimmen. Details erklärt der Beitrag Meeting-Transkription DSGVO-konform.
• Personalprozesse: KI zur Bewerberauswahl oder Leistungsbewertung betrifft Beschäftigtendaten, Art. 22 DSGVO und gilt nach dem EU AI Act als Hochrisiko-Anwendung.
• Gesundheits- und andere besondere Daten (Art. 9 DSGVO): Hier sind strengere Rechtsgrundlagen nötig, oft auch eine Datenschutz-Folgenabschätzung.
• Berufsgeheimnisse: Berufsgeheimnisträger wie Steuerberater oder Ärzte müssen zusätzlich § 203 StGB beachten und Dienstleister entsprechend verpflichten.

Cloud, EU-Hosting oder On-Premise?

Häufig wird gefragt, ob KI nur auf eigenen Servern datenschutzkonform sein kann. Die DSGVO verlangt kein bestimmtes Betriebsmodell, sondern angemessenen Schutz. Eine On-Premise-KI gibt maximale Kontrolle, erfordert aber eigene Hardware, Betrieb, Updates und Sicherheitskompetenz – und leistungsfähige Modelle sind lokal nur eingeschränkt verfügbar. Ein Cloud-Dienst mit Hosting in der EU, AVV, EU-Modellregionen und sauberem Rechtekonzept ist für die meisten Mittelständler der pragmatische Weg.

Checkliste für die Einführung

1. Anwendungsfälle und Datenkategorien festlegen
2. Anbieter prüfen: AVV, TOM, Unterauftragsverarbeiter, Speicherorte, Training ausgeschlossen
3. Rechtsgrundlage dokumentieren und Verarbeitungsverzeichnis ergänzen
4. Erforderlichkeit einer Datenschutz-Folgenabschätzung prüfen
5. Rollen und Rechte konfigurieren, Quellen gezielt anbinden
6. Datenschutzhinweise aktualisieren
7. Betriebsrat beteiligen, KI-Richtlinie veröffentlichen, Schulung durchführen
8. Regelmäßig überprüfen: neue Funktionen, neue Anbieter, neue Datenquellen

Wer im Unternehmen was verantwortet

Datenschutzkonforme KI ist Teamarbeit. Bewährt hat sich eine klare Rollenverteilung:

• Geschäftsführung: trägt die Verantwortung als Verantwortlicher im Sinne der DSGVO, gibt Werkzeuge und Richtlinie frei und stellt Ressourcen für Einführung und Schulung bereit.
• Datenschutzbeauftragte: berät bei Rechtsgrundlage, AVV, Datenschutz-Folgenabschätzung und Informationspflichten und überwacht die Einhaltung.
• IT: prüft technische und organisatorische Maßnahmen, richtet Anmeldung, Rollen und Integrationen ein und überwacht Zugriffe.
• Fachbereiche: definieren Anwendungsfälle, entscheiden, welche Quellen nötig sind, und prüfen Ergebnisse fachlich.
• Betriebsrat: wird bei der Einführung beteiligt; eine Betriebsvereinbarung schafft Klarheit für alle Seiten.
• Mitarbeitende: halten sich an die Richtlinie, geben nur zulässige Daten ein und melden Auffälligkeiten.

Typische Fehler und wie Sie sie vermeiden

• Nur verbieten: Ein Verbot ohne Alternative führt zu privater Nutzung auf eigenen Geräten. Bieten Sie ein freigegebenes Werkzeug an.
• Den AVV als Formalie behandeln: Lesen Sie die Liste der Unterauftragsverarbeiter. Entscheidend ist, welche Modellanbieter und Zusatzdienste tatsächlich Daten erhalten.
• Alle Quellen auf einmal anbinden: Je mehr Daten einbezogen werden, desto größer das Risiko unbeabsichtigter Offenlegung. Beginnen Sie mit gepflegten, klar berechtigten Ablagen.
• Rechte nur in der Oberfläche prüfen: Wenn die Wissenssuche Berechtigungen ignoriert, hilft keine Menüsteuerung. Testen Sie gezielt mit Konten unterschiedlicher Rollen.
• Speicherfristen vergessen: Chats und Transkripte sammeln sich schnell an. Legen Sie Löschregeln fest und prüfen Sie, ob sie technisch umgesetzt werden.
• Funktionen ungeprüft erweitern: Neue Funktionen wie Sprachaufnahme, Websuche oder Bildgenerierung können neue Dienstleister einbinden. Prüfen Sie jede Erweiterung erneut.
• Dokumentation vertagen: Verarbeitungsverzeichnis, Begründung der Rechtsgrundlage und Schulungsnachweise sind im Ernstfall Ihr wichtigster Beleg.

So unterstützt AIPE den datenschutzkonformen KI-Einsatz

AIPE wird primär in Deutschland gehostet. Der Auftragsverarbeitungsvertrag mit technischen und organisatorischen Maßnahmen und der Liste der Unterauftragsverarbeiter ist online einsehbar. Für die veröffentlichten Modellanbieter nutzt AIPE EU-Regionen; welche Modelle eine Organisation zulässt, ist konfigurierbar, und eigene Anbieter-Schlüssel lassen sich hinterlegen. Jede Ressource – Dateien, Chats, Agenten, Wiki, Skills – gehört zu einer Organisation und folgt Rollen, Gruppen und Freigaben; die Wissenssuche berücksichtigt nur Dokumente, die die fragende Person lesen darf. Nutzung lässt sich nach Person und Kostenstelle auswerten und mit Budgets begrenzen. Die Prüfung Ihrer konkreten Verarbeitung bleibt Aufgabe Ihres Datenschutzes – wir unterstützen sie mit Dokumentation und Antworten. Mehr zur Plattform unter AIPE Plattform.