DSGVO und KI 2026: Praxisleitfaden für den Mittelstand
Warum DSGVO und KI 2026 nicht mehr trennbar sind
2026 ist das Jahr, in dem KI im deutschen Mittelstand zur Normalität geworden ist. Laut Bitkom-Studie 2026 nutzen 41 Prozent der Unternehmen KI aktiv, weitere 32 Prozent planen den Einsatz. Was lange als experimenteller Bereich galt, ist heute Geschäftsprozess - und damit voll unter die Datenschutz-Grundverordnung gerückt.
Die Datenschutzbehörden haben sich klar positioniert: Sobald personenbezogene Daten im Spiel sind - und das ist bei jedem Kundenkontakt, Mitarbeiterprozess oder Bewerbermanagement der Fall - gilt die DSGVO. Der EU AI Act ergänzt sie um KI-spezifische Pflichten, ersetzt sie aber nicht. Wer eine saubere Datenschutz-Folgenabschätzung gemacht hat, kann sie als Grundlage für die KI-Risikobewertung verwenden. Wer nichts dokumentiert hat, fängt bei null an - mit Bußgeldrisiko ab dem ersten ChatGPT-Prompt.
Dieser Leitfaden zeigt die sechs DSGVO-Bausteine konkret, mit Verweisen auf BfDI, EDSA und das Bayerische Landesamt für Datenschutzaufsicht (BayLDA), das die ausführlichste KI-Checkliste deutscher Behörden veröffentlicht hat.
Die Rechtsgrundlagen nach Art. 6 DSGVO im KI-Kontext
Jede KI-Verarbeitung personenbezogener Daten braucht eine der sechs Rechtsgrundlagen nach Art. 6 Abs. 1 DSGVO. Drei davon sind im Mittelstand relevant.
Berechtigtes Interesse (Art. 6 Abs. 1 lit. f)
Die häufigste Grundlage für interne KI-Nutzung. Voraussetzung ist eine dokumentierte Interessenabwägung: berechtigtes Interesse des Unternehmens (Effizienz, Wettbewerb) gegen Rechte der Betroffenen (Mitarbeiter, Kunden). Wenn die Interessenabwägung positiv ausgeht und Mitarbeiter sowie Kunden vorab transparent informiert wurden, ist die Verarbeitung zulässig.
Praxisbeispiel: Du nutzt ChatGPT Plus, um Kundenanfragen vorzusortieren und Antwortentwürfe zu erstellen. Berechtigtes Interesse: schnellere Bearbeitung, höhere Qualität. Schutzwürdige Interessen der Kunden: ihre Daten werden in einen US-Drittland-Service übertragen. Lösung: SCC oder DPF als Garantie, Personennamen aus Prompts entfernen, Transparenzhinweis in der Datenschutzerklärung.
Vertragserfüllung (Art. 6 Abs. 1 lit. b)
Greift, wenn die KI-Verarbeitung erforderlich ist, um einen Vertrag mit der betroffenen Person zu erfüllen. Beispiel: ein Kunde bestellt einen personalisierten Service und du nutzt KI, um seine Anfrage zu beantworten - das ist Vertragserfüllung. Aber: Bei reinem internen Effizienzgewinn (z.B. KI-gestützte Buchhaltung) ist diese Grundlage nicht tragfähig, da hier kein direkter Vertrag mit dem Betroffenen besteht.
Einwilligung (Art. 6 Abs. 1 lit. a)
Die letzte Wahl, wenn andere Grundlagen nicht greifen. Vorteil: rechtlich am sichersten. Nachteil: jederzeit widerrufbar, was Geschäftsprozesse zerstören kann. Bei besonderen Kategorien nach Art. 9 DSGVO (Gesundheit, Religion, Sexualität, Gewerkschaft, biometrische Daten) ist eine ausdrückliche Einwilligung sogar zwingend - berechtigtes Interesse reicht hier nicht aus.
Auftragsverarbeitungsvertrag mit KI-Anbietern (Art. 28 DSGVO)
Sobald ein externer Dienstleister personenbezogene Daten für dich verarbeitet, brauchst du einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Die KI-Anbieter haben das standardisiert.
OpenAI - DPA aktualisiert zum 1. Januar 2026
OpenAI hat sein Data Processing Addendum am 1. Dezember 2025 überarbeitet und zum 1. Januar 2026 in Kraft gesetzt. Der DPA gilt automatisch für ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu und die API. Wichtig: bei ChatGPT Free und Plus liegt KEIN Standard-AVV vor, was den Einsatz im Unternehmenskontext schwierig macht.
Anthropic - Microsoft-Subprocessor seit 7. Januar 2026
Claude ist seit Januar 2026 in Microsoft Copilot als Subprocessor integriert. Wer Microsoft 365 mit aktiviertem Copilot nutzt, hat Anthropic damit indirekt im AVV-Vertragsbaum. Volle Funktionsverfügbarkeit ist für Ende März 2026 angekündigt.
Microsoft - M365 Standard-AVV
Microsoft bietet einen DSGVO-konformen AVV als Teil der M365-Lizenzbedingungen. Wer Microsoft Copilot mit der M365-Lizenz nutzt, hat den AVV bereits implizit akzeptiert.
Google Workspace plus Gemini
Google bietet seinen DPA im Workspace-Vertrag. Gemini ist als Subprocessor gelistet.
Datenschutz-Folgenabschätzung nach Art. 35 DSGVO
Eine DSFA ist nach Art. 35 DSGVO erforderlich, wenn die Verarbeitung "voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat". Bei KI-Systemen liegt das oft vor.
Typische DSFA-Pflicht-Fälle im Mittelstand:
- Automatisierte Bewerberbewertung mit KI
- KI-gestützte Krediteinschätzung oder Risikoanalyse
- Systematische Überwachung von Mitarbeitern (Produktivitäts-Tracking)
- KI-Verarbeitung besonderer Kategorien (Gesundheitsdaten in der Pflege)
- Profiling von Kunden für Marketing
Der EDSA hat im Mai 2026 eine neue DSFA-Vorlage zur öffentlichen Konsultation gestellt. Die Konsultation läuft bis 9. Juni 2026. Wer eine DSFA aufsetzen muss, kann die BfDI-Mustervorlage nutzen.
Verzeichnis von Verarbeitungstätigkeiten (Art. 30 DSGVO)
Das VVT nach Art. 30 DSGVO ist Pflicht für Unternehmen ab 250 Beschäftigten und für alle, deren Verarbeitung risikobehaftet ist - was KI-Einsatz fast immer ist. Auch kleinere KMU sollten freiwillig führen, weil das VVT als Nachweis bei einer Datenschutzprüfung dient.
KI-spezifische VVT-Felder:
| Feld | Beispiel |
|---|---|
| Verarbeitung | KI-gestützte Kundenanfrage-Beantwortung |
| Tool | ChatGPT Plus |
| Anbieter | OpenAI, USA |
| Rechtsgrundlage | Art. 6 Abs. 1 lit. f DSGVO (berechtigtes Interesse) |
| Datenkategorien | Kundenanfrage-Texte, ggf. Personennamen |
| Drittland | USA, gedeckt durch EU-US Data Privacy Framework |
| Speicherdauer | laut OpenAI-DPA, max. 30 Tage Trainings-Opt-out aktiv |
| TOM | Rollenbasierter Zugriff, Audit-Log, Mitarbeiterschulung Art. 4 EU AI Act |
Technische und organisatorische Maßnahmen (Art. 32 DSGVO)
Nach Art. 32 DSGVO musst du angemessene technische und organisatorische Maßnahmen treffen. Beim KI-Einsatz sind sechs Punkte konkret:
- Rollenbasierter Zugriff: nicht jeder Mitarbeiter braucht ChatGPT Enterprise. Vergabe nach Aufgabenbezug.
- Schatten-IT verhindern: private ChatGPT-Accounts mit Firmendaten unterbinden. Klare Tool-Liste festlegen.
- Sensible Felder filtern: Gesundheitsdaten, Personalakten, Vertragsentwürfe nicht in Prompts schicken. Pre-Processing einrichten.
- Audit-Log aktivieren: ChatGPT Enterprise und Claude Team bieten Log-Funktionen. Diese 6 Monate aufbewahren.
- Output-Validierung: KI-Ausgaben vor Verwendung prüfen, besonders bei Personennamen oder Zahlen. Halluzinationen sind Datenschutz-Risiko.
- Backup-Strategie: wichtige KI-Konversationen exportieren, Cloud-Lock-in vermeiden.
Transparenz und Informationspflichten (Art. 13 und 14 DSGVO)
Die Betroffenen müssen vor der Verarbeitung informiert werden. Konkret heißt das: deine Datenschutzerklärung muss einen KI-Abschnitt enthalten mit Tool-Namen, Anbietern, Zwecken, Rechtsgrundlage und Drittlandtransfer. Eine pauschale Formulierung "wir nutzen moderne Technologien" reicht nicht.
Mustertext für die Datenschutzerklärung:
Wir setzen zur Texterstellung und Recherche das KI-System ChatGPT Plus der OpenAI Inc. (San Francisco, USA) ein. Eingaben, die personenbezogene Daten enthalten, werden zur Vertragserfüllung (Art. 6 Abs. 1 lit. b DSGVO) bzw. auf Grundlage unseres berechtigten Interesses (Art. 6 Abs. 1 lit. f DSGVO) verarbeitet. Der Transfer in die USA ist durch das EU-US Data Privacy Framework abgesichert. OpenAI ist im DPF zertifiziert. Sie können der Verarbeitung jederzeit widersprechen.
Schnittstelle zum EU AI Act
Wer DSGVO-konform mit KI arbeitet, hat schon einen Teil der EU-AI-Act-Pflichten erfüllt. Beide Regelwerke greifen ineinander, ergänzen sich aber. Eine vollständige Übersicht findest du in unserer Pillar-Page zur KI-Kompetenzpflicht nach Art. 4 EU AI Act.
Kurzfassung der Schnittstelle:
- Art. 4 EU AI Act (KI-Kompetenz aller Mitarbeiter) zählt direkt auf die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO ein.
- Hochrisiko-KI nach Art. 6 EU AI Act erfordert fast immer auch eine DSFA nach Art. 35 DSGVO.
- EDSA und BfDI empfehlen, beide Bewertungen in einem Dokument zusammenzuführen.
DSGVO-konformer KI-Einsatz in 7 Schritten
- Bestandsaufnahme: alle KI-Tools im Unternehmen erfassen, inklusive Schatten-IT.
- Rechtsgrundlage festlegen: pro Anwendungsfall die passende Art-6-Grundlage dokumentieren.
- AVV abschließen: Standard-DPA von OpenAI, Anthropic, Microsoft, Google akzeptieren und archivieren.
- DSFA erstellen: bei systematischer Verarbeitung oder automatisierten Entscheidungen.
- VVT erweitern: KI-Spalte mit Tool, Anbieter, Drittland, TOM.
- TOM anpassen: Zugriffsrechte, Filter, Audit-Logs.
- Schulung und Transparenz: Mitarbeiter nach Art. 4 EU AI Act schulen, Datenschutzerklärung erweitern.
Häufige Fragen zu DSGVO und KI
Brauche ich für ChatGPT-Pro einen Auftragsverarbeitungsvertrag?
Ja. Sobald du im ChatGPT-Plan Inhalte mit personenbezogenen Daten verarbeitest (E-Mails, Kundenanfragen, Lebensläufe), bist du datenschutzrechtlich Verantwortlicher und OpenAI ist Auftragsverarbeiter. OpenAIs Data Processing Addendum (DPA) wurde zum 1. Januar 2026 aktualisiert und ist im Account hinterlegt - du musst ihn akzeptieren, nicht selbst aufsetzen. Bei ChatGPT Free fehlt dieser DPA in vielen Fällen, was den Einsatz im Unternehmen problematisch macht.
Reicht eine pauschale Einwilligung zum KI-Einsatz?
Nein. Eine Einwilligung muss bestimmt, informiert und freiwillig sein. "Sie stimmen dem Einsatz von KI zu" ist zu pauschal. Konkret werden muss: welche Tools, welche Daten, welche Zwecke, welche Anbieter, welche Drittlandtransfers. Für interne Routineprozesse ist berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO meist tragfähiger - mit dokumentierter Interessenabwägung.
Muss ich vor jedem KI-Einsatz eine DSFA machen?
Nicht vor jedem. Die DSFA-Pflicht nach Art. 35 DSGVO greift bei voraussichtlich hohem Risiko - etwa bei automatisierter Bewerberbewertung, KI-gestützter Gesundheitsdiagnostik oder systematischer Überwachung. Bei reinen Office-Anwendungen (Texte, Übersetzungen, Recherche) reicht meist die Interessenabwägung. Der EDSA hat im Mai 2026 eine neue Vorlage zur Konsultation gestellt - bis 9. Juni 2026 läuft die Frist für Rückmeldungen.
Ist der Drittlandtransfer in die USA mit OpenAI rechtlich gedeckt?
Aktuell ja, über das EU-US Data Privacy Framework (Angemessenheitsbeschluss der EU-Kommission vom 10. Juli 2023). OpenAI und Anthropic sind im DPF zertifiziert. Wer rechtssicher arbeiten will, ergänzt zusätzlich Standardvertragsklauseln (SCC). Die politische Lage des DPF in den USA ist unter Beobachtung - Stand Mai 2026 ist es gültig.
Was bedeutet die Schnittstelle EU AI Act und DSGVO?
Beide Regelwerke gelten parallel. Wer KI mit personenbezogenen Daten einsetzt, muss DSGVO einhalten (Rechtsgrundlage, AVV, DSFA) UND EU AI Act (Art. 4 KI-Kompetenz seit 02.02.2025, Hochrisiko-Pflichten ab 02.08.2026). Eine sauber durchgeführte DSFA kann als Basis für die KI-Risikobewertung dienen. Beide Pflichten ergänzen sich, ersetzen sich aber nicht.
Wer haftet, wenn ChatGPT halluziniert und personenbezogene Daten falsch wiedergibt?
Datenschutzrechtlich der Verantwortliche - also dein Unternehmen, nicht OpenAI. Du musst sicherstellen, dass KI-Ausgaben vor Verwendung geprüft werden, und Betroffene haben Berichtigungsanspruch nach Art. 16 DSGVO. Ein Output, der falsche Personendaten enthält, muss korrigiert oder gelöscht werden - selbst wenn er nur im LLM "stand". Praktischer Hebel: keine Personennamen in Prompts, oder synthetische Platzhalter.
Brauche ich einen Datenschutzbeauftragten, wenn ich KI einsetze?
Nicht automatisch. Die Pflicht zum DSB greift nach § 38 BDSG bei mehr als 20 Beschäftigten, die ständig Daten verarbeiten, oder bei systematischer Überwachung oder besonderen Kategorien. KI-Einsatz mit personenbezogenen Daten in großem Umfang fällt oft darunter. Bei jedem Zweifel: lieber freiwillig bestellen, das spart spätere Bußgelder.
Welche Sanktionen drohen bei DSGVO-Verstößen durch KI?
Bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes nach Art. 83 DSGVO - je nachdem, was höher ist. Bei Verstößen gegen Art. 28 (AVV), Art. 35 (DSFA), Art. 30 (VVT) liegt der Rahmen bei bis zu 10 Millionen Euro oder 2 Prozent. Tatsächliche Bußgelder im KMU-Bereich liegen typisch zwischen 5.000 und 50.000 Euro, abhängig von Vorsatz, Wiederholung und Mitwirkung.
Wie dokumentiere ich KI-Einsatz im VVT?
Pro KI-System eine separate VVT-Zeile: Tool-Name (z.B. ChatGPT Plus), Anbieter, Datenkategorien (z.B. Kundenanfragen-Texte), Zweck (z.B. Antwortentwurf), Rechtsgrundlage (z.B. Art. 6 Abs. 1 lit. f), Empfänger (OpenAI, USA via DPF), Speicherdauer (laut Anbieter-DPA), TOM (Zugriffsrechte, Audit-Log). Excel oder spezialisierte Tools wie Datenschutz-Manager (Otris, DSB-Office) reichen aus.
Müssen Mitarbeiter eingewilligt haben, wenn der Arbeitgeber KI für interne Prozesse nutzt?
Nicht zwingend. § 26 BDSG erlaubt Beschäftigtendaten-Verarbeitung zur Durchführung des Beschäftigungsverhältnisses ohne Einwilligung. Aber: Beschäftigtenbeteiligung über Betriebsrat (§ 87 BetrVG bei IT-Systemen) ist Pflicht. Eine Betriebsvereinbarung zur KI-Nutzung ist 2026 Best Practice und schützt vor späteren Streitigkeiten.