41 Prozent der deutschen Unternehmen nutzen heute aktiv KI - mehr als doppelt so viele wie 202422. Die meisten schieben KI-Agenten in HR, Finanzen, Kundenservice und Operations, ohne je eine ordentliche Datenschutz-Folgenabschätzung gemacht zu haben. Die Aufsichtsbehörden haben das gesehen. Die DSK veröffentlichte im Mai 2024 ihre erste KI-Orientierungshilfe12, im Oktober 2025 folgte die RAG-Orientierungshilfe13, im Dezember 2025 die BfDI-Handreichung14. Das Signal ist eindeutig: Die Aufsicht bei KI-Einsätzen läuft - und die fehlende DSFA ist der einfachste Befund, den eine Behörde aufschreiben kann.
Die gute Nachricht: Der DSFA-Prozess für KI-Agenten ist kein Hexenwerk. Art. 35 DSGVO gilt seit 2018, die WP248-Leitlinien sind seit 2017 das Playbook5, und DSK, EDPB und EDPS haben in den letzten zwei Jahren genug Spezial-Guidance für LLMs, RAG-Systeme und autonome Agenten nachgeschoben. Es gibt einen klaren Weg vom Vorhaben zur verteidigungsfähigen, gezeichneten DSFA - und der dauert Wochen, nicht Monate, wenn man ihn beim ersten Mal richtig aufsetzt.
Das ist der Praxisleitfaden für CTOs, CIOs, Datenschutzbeauftragte und Geschäftsführer im deutschen Mittelstand, die ihren ersten - oder fünften - KI-Agenten ausrollen. Er behandelt, wann die DSFA Pflicht ist, was die deutschen Aufsichtsbehörden tatsächlich erwarten, wie die neue FRIA aus der EU-KI-VO reinpasst und welcher Sieben-Schritte-Prozess vom leeren Dokument zur Freigabe führt. Kein Theater. Nur, was 2026 funktioniert.
TL;DR
Art. 35 DSGVO verlangt eine DSFA immer dann, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene zur Folge hat. Praktisch jeder Unternehmens-KI-Agent erreicht diese Schwelle.
Der 9-Kriterien-WP248-Test ist der operative Filter. Die meisten KI-Agenten zünden gleichzeitig Bewertung, systematische Überwachung, Datenkombination und innovative Technologie.
Die DSK-Orientierungshilfen (Mai 2024 plus RAG-Orientierungshilfe Oktober 2025) und die BfDI-Handreichung Dezember 2025 sind heute das deutsche Standard-Playbook für KI-DSFAs.
Die FRIA nach Art. 27 EU-KI-VO ergänzt die DSFA, ersetzt sie aber nicht. Betreiber von Hochrisiko-KI brauchen beide - mit der DSFA als Input für die FRIA.
Der 7-Schritte-Prozess (Scoping, Asset-Mapping, Rechtsgrundlage, Risiko-Bewertung, Schutzmaßnahmen, DSB-Konsultation, Freigabe) dauert für einen mehrkomponentigen KI-Agenten 8 bis 20 Wochen und kostet 8.000 bis 80.000 Euro - je nach Scope.
Überspringen heißt Art. 83 Abs. 4 DSGVO mit bis zu 10 Mio. Euro oder 2 Prozent des weltweiten Jahresumsatzes - mit Eskalation auf 4 Prozent, wenn zusätzlich materielle Grundsätze verletzt werden.
Warum fast jeder KI-Agent eine DSFA auslöst
Die Datenschutz-Folgenabschätzung ist keine Nischenpflicht. Art. 35 Abs. 1 DSGVO greift immer, wenn der Verantwortliche eine neue Technologie einsetzt, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Der Wortlaut ist absichtlich breit - und das KI-Agenten-Muster zündet die Auslöser gleich mehrfach.
- Innovative Technologie - KI-Agenten aus LLMs, Tool-Calls und autonomem Planning sind Lehrbuch-neue-Technologie nach WP248. Selbst der EDPS nennt agentische KI inzwischen explizit als eigene Risiko-Kategorie21.
- Systematische Verarbeitung - jede Agent-Aktion (gelesene Mail, geändertes Datensatz, ausgelöster Workflow) erzeugt nachvollziehbare Verarbeitung personenbezogener Daten. Hamburg LfD hat genau diesen Punkt als Aufsichtsschwerpunkt 2026 markiert10.
- Systemübergreifende Reichweite - der Agent zieht Daten aus ERP, CRM, HRIS, Mail und Ticketing. Diese Datenkombination ist ein eigenes WP248-Kriterium5.
- Beschäftigtendaten-Berührung - jeder im Namen eines Nutzers handelnde Agent verarbeitet Beschäftigtendaten und oft Telemetrie über Kolleg:innen. Die DSK behandelt Beschäftigte als schutzbedürftige Betroffene12.
- Automatisierte Entscheidungen - ein Agent, der etwas für einen Menschen freigibt, ablehnt oder bewertet, fällt in Art. 22 DSGVO. Allein dieser Auslöser erzwingt eine DSFA5.
- Drittlandtransfers - die meisten LLM-Anbieter terminieren in den USA. Ohne saubere Standardvertragsklauseln und Transfer Impact Assessments erzeugt der Agent ein lehrbuchhaftes Art.-44-49-Risiko17.
Kernaussage
Die DSK-Orientierungshilfe Künstliche Intelligenz und Datenschutz formuliert es eindeutig: Eine DSFA nach Art. 35 DSGVO ist erforderlich, wenn eine KI-Anwendung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt, was bei KI-Anwendungen häufig der Fall ist12. Das ist keine Rechtstheorie - das ist der Maßstab, an dem deutsche Aufsichtsbehörden Sie messen.
Die Bitkom-KI-Studie 2026 zeigt: 41 Prozent der deutschen Unternehmen nutzen aktiv KI, bei Firmen über 500 Beschäftigte sind es schon über 60 Prozent22. Die Lücke zwischen KI-Adoption und KI-Compliance wächst. Die Aufsichtsbehörden haben mit konkreten Playbooks reagiert - und ihren Audit-Fokus geschärft.
| KI-Agent-Muster | DSFA-Pflicht? | Warum |
|---|---|---|
| HR-Copilot, der Lebensläufe screent | Ja (zwingend) | Art. 35 Abs. 3 lit. a - automatisierte Bewertung, Beschäftigungswirkung, Art. 22 DSGVO |
| Voice-Agent in der Inbound-Hotline | Ja | Innovative Tech, systematische Verarbeitung, ggf. biometrische Stimmdaten |
| E-Mail-Agent für Führungskräfte | Ja | Datenkombination, Drittanbieter-LLM, große interne Datenmenge |
| RAG-Agent auf Unternehmens-SharePoint | Ja | DSK-Orientierungshilfe RAG nennt dies explizit (Okt. 2025)13 |
| Sales-Agent, der CRM-Kontakte anreichert | Ja | Profiling, Scoring, Drittlandtransfer zur LLM-API |
| Customer-Service-Agent ohne PII | Fallweise | Logs mit Kunden-IDs: ja. Vollständig anonymer FAQ-Bot: ggf. nein |
Was eine DSFA wirklich ist (und was nicht)
Die DSFA ist eine strukturierte Bewertung der Risiken für Betroffene aus einer bestimmten Verarbeitung, mit konkreten Schutzmaßnahmen und einer Restrisiko-Entscheidung. Es ist eine Verantwortlichen-Pflicht, kein Checkbox-Ritual. Ergebnis ist ein lebendes Dokument, das eine Aufsichtsbehörde in 30 Minuten lesen und in 90 Minuten prüfen kann.
Was sie laut Gesetz enthält
Art. 35 Abs. 7 DSGVO setzt den Mindestinhalt. DSK-Orientierungshilfe und CNIL-Methodik liefern die operativen Details12, 28.
- Systematische Beschreibung der Verarbeitung - Zwecke, Rechtsgrundlage, Datenkategorien, Betroffenenkategorien, Empfänger, Speicherdauer. Der Art.-30-Eintrag im Verzeichnis von Verarbeitungstätigkeiten ist der Ausgangspunkt - nicht das Ziel.
- Bewertung von Notwendigkeit und Verhältnismäßigkeit - ist der KI-Agent für den genannten Zweck tatsächlich erforderlich, oder käme eine weniger eingreifende Lösung zum gleichen Ergebnis.
- Risiko-Bewertung für Betroffene - Eintrittswahrscheinlichkeit und Schwere des Schadens, gemappt auf die tatsächlichen Datenflüsse des Agenten.
- Schutzmaßnahmen - technische, organisatorische und vertragliche Kontrollen, die das identifizierte Risiko senken. Das Restrisiko muss benannt werden, nicht versteckt.
- Konsultation der DSB - Art. 35 Abs. 2 ist nicht optional. Der Rat des Datenschutzbeauftragten muss eingeholt und dokumentiert sein.
- Beteiligung Betroffener wo sinnvoll - Beschäftigte, Betriebsrat, Kundenvertretung. Nicht immer Pflicht, oft ratsam.
Was die DSFA nicht ist
- Kein Lieferanten-Fragebogen - der SOC-2- oder ISO-27001-Bericht Ihres LLM-Anbieters ist Input. Er ist keine DSFA.
- Keine Datenschutzerklärung - die Betroffeneninformation (Art. 13/14) ist ein eigenes Dokument. Die DSFA ist die interne Risiko-Bewertung.
- Kein einmaliges PDF - Art. 35 Abs. 11 verlangt fortlaufende Überprüfung. Wie ein lebendes Dokument unter Versionskontrolle behandeln.
- Keine Aufgabe des KI-Anbieters - der Verantwortliche besitzt die DSFA. Der Anbieter kann sie nicht für Sie machen17.
- Keine Konformitätsbewertung nach EU-KI-VO - das sind eigene Pflichten der Anbieter von Hochrisiko-KI. Die DSFA deckt speziell Datenschutzrisiken ab.
| Dokument | Zielgruppe | Eigner | Frequenz |
|---|---|---|---|
| Verzeichnis von Verarbeitungstätigkeiten (VVT) | Intern, audit-fest | Verantwortlicher (DSB pflegt) | Laufend |
| Datenschutz-Folgenabschätzung (DSFA) | Intern, audit-fest | Verantwortlicher (DSB konsultiert) | Vor Rollout + bei materieller Änderung |
| Datenschutzerklärung (Art. 13/14) | Betroffene | Verantwortlicher | Vor Rollout + bei Änderung |
| FRIA (EU-KI-VO Art. 27) | Intern + Aufsicht | Betreiber von Hochrisiko-KI | Vor Rollout von Hochrisiko-KI |
| Konformitätsbewertung (EU-KI-VO) | Benannte Stelle | Anbieter von Hochrisiko-KI | Pro System, laufend |
| AVV (Art. 28 DSGVO) | Auftragsverarbeiter-Verhältnis | Verantwortlicher | Pro Anbieter |
DSFA richtig machen vs. überspringen
Richtig machen
- ✓ Audit-Verteidigung - eine gezeichnete DSFA ist das beste Einzeldokument in einer Aufsichtsbehörden-Prüfung
- ✓ Architektur-Einfluss - frühe Risiko-Funde formen die Architektur, bevor Code entsteht
- ✓ Anbieter-Hebel - der DSFA-Scope bestimmt, was Sie tatsächlich in den AVV verhandeln
- ✓ Betriebsrats-Alignment - dieselbe Evidenz erfüllt § 87 BetrVG-Mitbestimmung
- ✓ FRIA-Wiederverwendung - die DSFA speist direkt die FRIA-Dokumentation der EU-KI-VO6
Überspringen
- ✗ Art. 83 Abs. 4 Risiko - bis zu 10 Mio. Euro oder 2 Prozent weltweiter Jahresumsatz
- ✗ Eskalationsrisiko - fehlende DSFA korreliert meist mit materiellen Verstößen, die in Art. 83 Abs. 5 mit 4 Prozent landen
- ✗ Unterlassungsverfügungen - die Aufsicht kann anordnen, die Verarbeitung sofort zu stoppen
- ✗ Zivilrechtliche Haftung - Betroffene klagen Schadenersatz nach Art. 82, fehlende DSFA als Beleg für Fahrlässigkeit
- ✗ Reputation - öffentliche Pressemitteilungen der Aufsicht zu KI-Bußgeldern haben eine lange Halbwertszeit
Der 9-Kriterien-Test (WP248) angewandt auf KI-Agenten
WP248 rev.01 - die vom EDPB übernommenen Leitlinien der Artikel-29-Gruppe - ist der operative Filter für die Hohe-Risiko-Prüfung nach Art. 35 Abs. 1. Die Regel ist simpel: Erfüllt eine Verarbeitung zwei oder mehr der neun Kriterien, ist eine DSFA in der Regel erforderlich. KI-Agenten erfüllen fast nie nur zwei5.
Die neun Kriterien gemappt auf typische Agenten-Use-Cases
| WP248-Kriterium | Klartext-Bedeutung | Wie KI-Agenten es zünden |
|---|---|---|
| 1. Bewertung oder Scoring | Profiling, Bewertung, Klassifizierung von Personen | Sales-Lead-Scoring, Lebenslauf-Ranking, Kundenabwanderungs-Prognose |
| 2. Automatisierte Entscheidung mit rechtlicher oder ähnlicher Wirkung | Entscheidungen über Zugang zu Gütern, Diensten, Beschäftigung | Agent gibt Kreditrahmen frei, screent Bewerber aus, setzt Preis |
| 3. Systematische Überwachung | Kontinuierliche Beobachtung von Verhalten | Agent-Telemetrie, Action-Logs, Prompt-Logging über Nutzer-Sessions |
| 4. Besondere oder hochpersönliche Daten | Art.-9-Kategorien, Finanzdaten, Kommunikations-Metadaten | HR-Agent berührt Gesundheitsdaten, Service-Agent auf Versicherungsfällen |
| 5. Großer Maßstab | Datenvolumen, Anzahl Betroffener, Geografie | Jeder Agent für Tausende Kunden, Mitarbeitende oder Verträge |
| 6. Verknüpfung oder Kombination von Datensätzen | Datenfusion über Kontextgrenzen hinweg | RAG kombiniert CRM + HRIS + Mail + ERP in einer Vektor-DB13 |
| 7. Schutzbedürftige Betroffene | Beschäftigte, Kinder, Patienten - Abhängigkeitsverhältnis | Jeder Agent, der Beschäftigtendaten oder Kundenforderungen verarbeitet |
| 8. Innovativer Technologieeinsatz | Neue Tech mit unklarer rechtlicher Einordnung | LLM-basiertes Reasoning, agentisches Planning, Tool-Calls - alles qualifiziert |
| 9. Verarbeitung, die Betroffene an der Rechtswahrnehmung hindert | Aussperrung aus Vertrag, Diensten, Chancen | Agent-gesteuerter Service ohne klaren Menschen-Eskalationspfad |
Lassen Sie diese Matrix gegen Ihren geplanten Agenten laufen. Wenn Sie nach einer Minute Analyse nicht zwei Kästchen markieren können, schauen Sie entweder auf einen sehr engen Workflow oder Sie haben den Agenten noch nicht verstanden. Die DSK bestätigt, dass Kombinationen dieser Kriterien bei KI-Einsätzen typisch sind und die DSFA-Schwelle in aller Regel erreicht wird.
Beispiel: Sales-E-Mail-Agent
Ein simpler Sales-Assistent, der personalisierte Cold-Outreach aus CRM-Daten entwirft, zündet Kriterium 1 (Lead-Scoring), Kriterium 3 (Logging jedes Prompts über das Sales-Team), Kriterium 5 (großer Maßstab über die Kontaktbasis), Kriterium 6 (Kombination CRM + LinkedIn + Mail), Kriterium 8 (LLM-gestütztes Drafting) und Kriterium 9, wenn Kunden-Opt-out-Routen unklar sind. Das sind sechs von neun. DSFA zwingend. Keine Grauzone.
“AI technologies may bring many opportunities and benefits to different industries and areas of life. We need to ensure these innovations are done ethically, safely, and in a way that benefits everyone.”
- Anu Talus, Vorsitzende des Europäischen Datenschutzausschusses (EDPB), zur Opinion 28/202418
Die deutsche Aufsichtslandschaft
Die deutschen Aufsichtsbehörden haben in den letzten 24 Monaten mehr KI-spezifische Guidance veröffentlicht als in den fünf Jahren davor zusammen. Der Mittelstand muss vier ineinandergreifende Ebenen mitlesen: Bundes-BfDI, Landes-Datenschutzbeauftragte, die gemeinsame DSK und das europäische EDPB. Jede Ebene hat etwas veröffentlicht, das direkt auf KI-Agent-DSFAs durchschlägt.
Der DSK-Output-Stack
- Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024) - das Fundament. Behandelt LLMs als primären Anwendungsfall. Sagt, dass eine DSFA bei KI-Anwendungen häufig erforderlich ist. Deckt Auswahl, Implementierung und Betrieb ab12.
- Orientierungshilfe RAG-Systeme (Oktober 2025) - das wichtigste Update für 2026. Verlangt explizit eine DSFA, die alle RAG-Komponenten abdeckt - Retriever, Vektordatenbank und LLM. Stellt fest, dass ein unrechtmäßig trainiertes Modell auch im RAG unrechtmäßig bleibt. Setzt die Erwartung für Zweckdefinitionen, Art.-30-Dokumentation, Mandantentrennung und Zugriffskontrollen13.
- DSFA Muss-Liste v1.1 - die technologieneutrale Blacklist. Nennt KI nicht explizit, aber die Kriterien (großmaßstäbliches automatisiertes Profiling mit erheblicher Wirkung etc.) fangen die meisten Unternehmens-KI-Use-Cases ein3.
- Hambacher Erklärung zur KI - die politische Position. Selbstlernende Systeme, die automatisierte Einzelentscheidungen treffen, unterliegen vollständig dem Datenschutzrecht. 2024 bekräftigt15.
Bundes-BfDI
- Handreichung KI in Behörden (Dezember 2025) - das erste große KI-Dokument von Prof. Dr. Louisa Specht-Riemenschneider. Adressiert Bundesbehörden, aber die Argumentation zu LLM-Trainingsdaten, memorierten personenbezogenen Daten, Transparenz und Rechtmäßigkeit ist 1:1 auf Unternehmenseinsätze übertragbar14.
- BfDI DSFA-Portal - Bundes-Blacklist und Templates. Auch für private Verantwortliche als Strukturreferenz brauchbar4.
Landes-Aufsichtsbehörden
- HmbBfDI Diskussionspapier LLM (Juli 2024) - die pragmatische Position. Ein LLM speichert keine personenbezogenen Daten im herkömmlichen Sinne. Unrechtmäßiges Training macht den Einsatz nicht automatisch illegal, exponiert aber Trainer und Einsetzer zur Haftung. Die spezifische Nutzung - nicht das Modell - ist rechtlich relevant10.
- LfDI Baden-Württemberg Diskussionspapier v2.0 (Oktober 2024) - das Rechtsgrundlagen-Playbook. Geht DSGVO, BDSG, LDSG BW-Rechtsgrundlagen für KI-Einsatz durch, mit Anwendungsbeispielen und einem praktischen Rahmen für Use-Case-Bewertung11.
- BayLDA KI-Beratungsstelle - der KMU-freundliche Einstieg. Bayern hat eine eigene KI-Beratungsstelle für Start-ups und KMU aufgesetzt, mit Checkliste (v0.9) und direkter Konsultation. Nutzen15, 16.
Europäische Ebene
- EDPB Opinion 28/2024 zu KI-Modellen (Dezember 2024) - die Schwellen-Referenz. Anonymität von KI-Modellen, Test berechtigtes Interesse, Betreiberhaftung für unrechtmäßig verarbeitete Trainingsdaten. Setzt die Latte für jede Anbieter-Due-Diligence in Ihrer DSFA17, 18.
- EDPB AI Auditing Checklist (Juni 2024) - die Methodik des EDPB Support Pool of Experts. Modellkarte, Systemkarte, Bias-Test, Adversarial Audit, Abschlussbericht. Als technischen Anhang in der DSFA wiederverwenden19.
- EDPB AI Enforcement Task Force (Februar 2025) - die Enforcement-Infrastruktur. Koordiniert DPA-Aktionen bei KI-Beschwerden EU-weit, mit Quick-Response-Team für dringende Fälle20.
- EDPS Revised Generative AI Orientations (Oktober 2025) - die agentische-KI-Spezifika. Adressiert autonome KI-Agenten, die Aufgaben ausführen und Entscheidungen ohne menschliche Intervention treffen. Verlangt Art.-30-Einträge, definierte Zwecke, Rollenklärung und DSFAs21.
| Behörde | Letztes KI-Dokument | Datum | Implikation für den Mittelstand |
|---|---|---|---|
| DSK | Orientierungshilfe RAG-Systeme | Okt. 2025 | DSFA für RAG-Agenten zwingend - alle Komponenten abgedeckt13 |
| BfDI | Handreichung KI in Behörden | Dez. 2025 | Bundes-Benchmark für KI-Rechtmäßigkeit und Transparenz14 |
| HmbBfDI | Diskussionspapier LLM | Juli 2024 | Spezifische Nutzung entscheidet über Rechtmäßigkeit, nicht das Modell10 |
| LfDI BW | Diskussionspapier v2.0 | Okt. 2024 | Rechtsgrundlagen-Rahmen für Use-Case-Bewertung11 |
| BayLDA | KI-Checkliste + Beratungsstelle | 2025 | KMU-orientierter Einstieg in KI-Compliance15, 16 |
| EDPB | Opinion 28/2024 + AI Task Force | Dez. 2024 / Feb. 2025 | Betreiber-Haftung für unrechtmäßiges Training, koordiniertes EU-Enforcement17, 20 |
| EDPS | Generative AI Orientations v2 | Okt. 2025 | Agentische KI explizit benannt, DSFA + Verzeichnis verpflichtend21 |
“KI-Systeme sind meist intransparent und machen Fehler. Wir schauen besonders auf den Personenbezug: Viele KI-Systeme sind mit Hilfe von personenbezogenen Daten entwickelt worden oder kommen in personenbezogenen Szenarien zum Einsatz - und dafür gilt das Datenschutzrecht.”
- Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein und DSK-Vorsitzende33
KI-Agent geplant und eine verteidigungsfähige DSFA gebraucht?
30-Minuten-Call buchen. Wir scopen die Bewertung gegen Ihren konkreten Use Case.

DSFA, Grundrechte-FA und die EU-KI-VO
Die EU-KI-VO wird am 2. August 2026 vollständig anwendbar, mit Hochrisiko-Pflichten nach Anhang III ab diesem Datum durchsetzbar6, 8. Art. 27 führt ein neues Instrument ein - die Grundrechte-Folgenabschätzung (FRIA) - das mit der DSFA überlappt, sie aber nicht ersetzt. Mittelstands-Teams müssen beide verstehen und das praktische Zusammenspiel.
Wer eine FRIA braucht
- Öffentliche Stellen, die Hochrisiko-KI einsetzen
- Private Träger öffentlicher Dienste - Versorger, Gesundheitswesen, Bildungs-Auftragnehmer
- Private Betreiber, die Hochrisiko-KI für Kreditwürdigkeitsprüfung oder Versicherungs-Pricing natürlicher Personen einsetzen
- Jeder, der Anhang-III-Hochrisiko-KI in HR- oder biometrischen Kontexten einsetzt, wird mit FRIA-nahen Erwartungen konfrontiert, auch wenn der enge Rechtsauslöser schmaler ist7, 8
Die DSFA/FRIA-Grenze
Art. 27 Abs. 4 EU-KI-VO ist die explizite Brücke: Eine DSFA nach Art. 35 DSGVO ergänzt die FRIA. Der Betreiber gilt insoweit als FRIA-konform, wie die Anforderungen bereits über die DSFA abgedeckt sind. Praktisch deckt die DSFA Datenschutzrechte spezifisch ab, während die FRIA breiter ist - alle Grundrechte einschließlich Diskriminierungsschutz, Meinungsfreiheit, faires Verfahren und wirtschaftliche Gleichheit6, 9.
| Dimension | DSFA (DSGVO Art. 35) | FRIA (EU-KI-VO Art. 27) |
|---|---|---|
| Rechtsquelle | DSGVO Art. 35 | EU-KI-VO Art. 27 |
| Gilt für | Alle Verantwortlichen mit Hohe-Risiko-Verarbeitung | Betreiber Hochrisiko-KI nach Anhang III (Teilmenge) |
| Abgedeckte Rechte | Datenschutzrechte | Alle Grundrechte |
| In Kraft seit / ab | 25. Mai 2018 | 2. August 2026 für Hochrisiko-Anhang III |
| Aufsicht | Landes-DSB / BfDI | Nationale Marktüberwachung + EU AI Office |
| Maximalbußgeld | 4% weltweiter Umsatz (Art. 83 Abs. 5) | 7% weltweiter Umsatz (KI-VO Art. 99) |
| Dokumenten-Überlapp | Speist 70-80% der FRIA-Inhalte | Ergänzt Diskriminierungsschutz, Genauigkeit, Aufsicht |
Praktischer Hinweis
Strukturieren Sie die DSFA so, dass ihre Ergebnisse sauber auf die FRIA-Vorlage abbildbar sind. Das EU AI Office hatte bis Redaktionsschluss keine finale FRIA-Vorlage veröffentlicht, aber EDPB AI Auditing Checklist und EDPS Generative AI Orientations decken bereits dieselben Risiko-Dimensionen ab. Eine Bewertung, zwei Outputs. Wer beide separat macht, verdoppelt die Arbeit und schafft Inkonsistenzen.
Was die FRIA zusätzlich zur DSFA verlangt
- Prozessbeschreibung - wie die Hochrisiko-KI in Betriebs- und Entscheidungsketten des Betreibers passt
- Einsatzzeitraum und -frequenz - explizite Zeitgrenzen statt offener Dauerbetrieb
- Kategorien betroffener Personen und Gruppen - inklusive Dritter jenseits direkter Betroffener
- Konkrete Schadensrisiken für diese Personen - auf Grundrechte gemappt, nicht nur auf Datenrechte
- Beschreibung menschlicher Aufsicht - nach Art. 14 KI-VO, über Art. 22 DSGVO hinaus
- Schutzmaßnahmen inkl. interner Governance und Beschwerdebearbeitung - die FRIA erwartet organisatorische Tiefe
Der 7-Schritte-DSFA-Prozess für KI-Agenten
Die DSFA ist kein Freitext. Art. 35 Abs. 7 DSGVO plus DSK-Orientierungshilfen plus EDPB AI Auditing Checklist ergeben zusammen eine klare Sequenz. Die folgenden sieben Schritte fassen sie in ein operatives Playbook. In dieser Reihenfolge abarbeiten. Auch die langweiligen Schritte nicht überspringen.
Schritt 1: Scoping und Auslöser-Dokumentation (Woche 1)
- Use Case in einem Absatz definieren - was tut der Agent, für wen, mit welchen Daten, mit welcher Konsequenz für Betroffene
- WP248-Neun-Kriterien-Matrix durchziehen - welche Kriterien zünden und warum dokumentieren. Zwei ist die Schwelle, die meisten Agenten treffen vier bis sechs
- DSK-Muss-Liste prüfen - fällt der Use Case unter einen benannten Eintrag. Die meisten KI-Agenten nicht, aber prüfen3
- Auslöser-Entscheidung festhalten - wenn keine DSFA nötig, das Warum dokumentieren. Wenn ja, die Annahmen festhalten
Schritt 2: Asset- und Datenfluss-Mapping (Woche 1-2)
- Systemkarte bauen - LLM-Anbieter, Vektordatenbank, Retrieval-Quellsysteme, MCP-Tools, Integrationen. Die EDPB AI Auditing Checklist hat eine brauchbare Vorlage19
- Jede Datenkategorie listen - Beschäftigtendaten, Kundendaten, Lead-Daten, besondere Kategorien (Gesundheit, Finanzen), System-Telemetrie
- Datenflüsse mappen - vom Quellsystem zum Retrieval, vom Retrieval zum Prompt, vom Prompt zum LLM, vom LLM zur Aktion, von der Aktion zum Log
- Alle Parteien identifizieren - Verantwortliche, Auftragsverarbeiter, Sub-Auftragsverarbeiter, gemeinsam Verantwortliche. Art.-28-AVVs müssen für jeden Auftragsverarbeiter existieren
- Drittlandtransfers dokumentieren - LLM-Anbieter-Standorte, Fallback-Regionen, Telemetrie-Ziele. Standardvertragsklauseln plus Transfer Impact Assessments wo nötig
Schritt 3: Rechtsgrundlagen-Bewertung (Woche 2-3)
- Art.-6-Rechtsgrundlage pro Verarbeitungszweck wählen - Vertrag, berechtigtes Interesse, Einwilligung, gesetzliche Pflicht. Das LfDI-BW-Diskussionspapier v2.0 geht die realistischen Optionen durch11
- Drei-Stufen-Test berechtigtes Interesse wenn Art. 6 Abs. 1 lit. f. EDPB Opinion 28/2024 zitiert konversationelle KI-Agenten als Beispiel17
- Art. 9 prüfen, wenn besondere Datenkategorien im Spiel - ausdrückliche Einwilligung, Arbeitsrecht, lebenswichtiges Interesse oder eine andere enge Ausnahme
- Art. 22 prüfen bei automatisierter Entscheidung - wenn Agent-Outputs eine Entscheidung mit rechtlicher oder ähnlicher Wirkung beeinflussen, dann Vertrag / Gesetz / Einwilligung plus Schutzmaßnahmen
- § 26 BDSG bei Beschäftigtendaten gegenprüfen - Betriebsvereinbarung oder § 26 BDSG sind die üblichen Grundlagen für Beschäftigten-KI
Schritt 4: Notwendigkeit und Verhältnismäßigkeit (Woche 3)
- Datenminimierung testen - braucht der Agent jede Datenkategorie wirklich, oder reicht eine geschwärzte Version
- Alternative Mittel testen - könnte ein Nicht-KI-Tool, einfacheres ML oder regelbasierte Logik das gleiche Ergebnis mit weniger Risiko erreichen
- Speicherdauer testen - Prompt-Logs, Action-Logs, Telemetrie. Nur so lange aufbewahren, wie operativer und Audit-Zweck es rechtfertigen
- Verhältnismäßigkeits-Schluss dokumentieren - Nutzen des Agenten gegen das Restrisiko für Betroffene
Schritt 5: Risiko-Bewertung (Woche 3-4)
- Risiko-Szenarien identifizieren - unbefugter Zugriff, Datenabfluss in Prompts, halluzinierte personenbezogene Daten, biased Output, intransparente automatisierte Entscheidung, Lock-in im Drittland
- Eintrittswahrscheinlichkeit und Schwere scoren - das CNIL-PIA-Tool nutzt eine vierstufige Skala, die auf die meisten internen Risiko-Matrizen passt28
- Restrisiko nach Basis-Kontrollen scoren - Verschlüsselung, Zugriffskontrolle, Löschung, Logging. Der Startpunkt vor KI-spezifischen Schutzmaßnahmen
- Spezifische Agent-Risiken benennen - Prompt Injection, Modell-Halluzination, Trainingsdaten-Memorisierung, RAG-Poisoning. Nicht so tun, als wären die theoretisch21
Schritt 6: Schutzmaßnahmen-Design (Woche 4-6)
- Technische Maßnahmen - Datenschwärzung vor Prompts, Output-Filterung, Mandantentrennung in der Vektor-DB, rollenbasierte Zugriffe, Verschlüsselung at rest und in transit
- Human-in-the-Loop-Checkpunkte - für jede Agent-Aktion oberhalb einer Risikoschwelle menschliche Freigabe verlangen. Schwellenkriterien dokumentieren
- Logging und Observability - unveränderliches Audit-Log für jede Agent-Aktion, Prompt und Tool-Call. Ermöglicht Art. 30 und Art. 82 Untersuchung
- Vertragliche Maßnahmen - AVV mit dem LLM-Anbieter, Sub-Auftragsverarbeiter-Liste, EU-Datenresidenz, Modellversions-Transparenz, Meldepflichten bei Datenpannen
- Organisatorische Maßnahmen - KI-Kompetenz-Schulung nach Art. 4 EU-KI-VO, interne KI-Richtlinie, Eskalationspfade, Beschwerdebearbeitung für Betroffene
- Schutzmaßnahmen testen - Agent red-teamen, Prompt-Injection-Versuch, Auskunftsersuchen simulieren. Dokumentieren, was scheiterte und was repariert wurde
Schritt 7: DSB-Konsultation, Freigabe und Review-Schedule (Woche 6-8)
- Formale DSB-Konsultation - schriftliche Stellungnahme der DSB nach Art. 35 Abs. 2. Stellungnahme, Differenzen und Lösung dokumentieren
- Betriebsrats-Alignment - wo Beschäftigtendaten involviert, dieselbe Evidenzbasis durch § 87 BetrVG laufen lassen und die Betriebsvereinbarung finalisieren
- Art.-36-Konsultations-Check - nur, wenn nach Schutzmaßnahmen ein hohes Restrisiko bleibt. Die DSK bestätigt, dass das die Ausnahme ist, nicht die Regel
- Verantwortlichen-Freigabe - die zuständige Führungsfunktion (CTO, Geschäftsführer) zeichnet die DSFA. Die DSFA ist das Dokument des Verantwortlichen, nicht der DSB
- Review-Plan - Kalendereinträge für Jahresreview plus Trigger bei materieller Änderung (LLM-Versions-Sprung, neue Tool-Integration, neue Datenkategorie)
DSFA-Bereitschafts-Checkliste für KI-Agenten
- Der Use Case hat eine einzelne Ein-Absatz-Beschreibung
- Sie können die WP248-Kriterien benennen, die zünden, und haben sie dokumentiert
- Sie haben eine Systemkarte mit LLM-Anbieter, Vektordatenbank, jedem integrierten Tool, jeder Datenquelle
- Aktueller AVV mit jedem Auftragsverarbeiter, inkl. LLM-Anbieter
- Drittlandtransfers dokumentiert mit SCC und TIA wo nötig
- Art.-6-Rechtsgrundlage pro Verarbeitungszweck gewählt und dokumentiert
- Risiko-Scoring-Matrix mit benannten Szenarien, nicht generischen CIA-Bedrohungen
- Schutzmaßnahmen konkret und getestet, nicht nur aspirativ
- DSB hat formal schriftlich beraten
- Betriebsrat konsultiert, wenn Beschäftigtendaten involviert
- Verantwortlichen-Freigabe mit Name und Datum festgehalten
- Jährliches Review im Kalender mit benannter Verantwortung
RAG und Vektordatenbanken: die versteckten DSFA-Risiken
Die DSK-Orientierungshilfe RAG-Systeme vom Oktober 2025 ist gerade das wichtigste KI-Dokument für den deutschen Mittelstand. Sie gilt direkt für jeden Agenten, der Unternehmenswissen abruft - SharePoint, Confluence, Fileshares, ERP-Hilfe, CRM-Notizen - und damit LLM-Outputs erdet. Vor der Architektur lesen, nicht danach13.
Die RAG-spezifische Risikofläche
- Die Vektordatenbank ist selbst eine Verarbeitung - Embeddings, die aus personenbezogenen Daten abgeleitet sind, sind personenbezogene Daten. Speicherung, Zugriffskontrolle, Löschung greifen
- Unrechtmäßiges Training wird im RAG nicht rechtmäßig - die DSK ist hier eindeutig. Ein auf unrechtmäßig verarbeiteten Daten trainiertes Modell heilt den Ursprungs-Verstoß nicht durch RAG-Einbettung13
- Die Kombination von vektorisierten Daten und Modellwissen erzeugt neue Risiken - die DSK benennt diese Kombination als spezifisches Datenschutzrisiko, das in der DSFA behandelt werden muss
- Mandantentrennung ist nicht verhandelbar - mandantenfähige Vektorspeicher müssen garantieren, dass die Daten eines Kunden nicht in die Prompts eines anderen lecken
- Zugriffskontrollen aus den Quellsystemen - wenn ein Dokument im SharePoint nur HR zugänglich ist, muss das Retrieval das respektieren. Oversharing ist das häufigste Mittelstands-Muster
- Löschung abgerufener Chunks - das Recht auf Löschung nach Art. 17 muss sich auf Vektoren propagieren, nicht nur auf Quelldokumente
- Logging von Retrieval-Ereignissen - welche Daten für welchen Nutzer abgerufen wurden, ist selbst eine zu loggende Verarbeitung
- Prompt- und Antwort-Logging - Prompts mit personenbezogenen Daten und Antworten mit abgeleiteten personenbezogenen Daten sind Verarbeitungen mit definierter Speicherdauer
RAG-spezifische DSFA-Anforderungen
| RAG-Komponente | DSFA-Anforderung | Häufiges Fehlermuster |
|---|---|---|
| Retriever | Zweck, Scope, Erbung der Zugriffskontrollen dokumentieren | Komplette SharePoint-Indizierung ohne Scoping |
| Vektordatenbank | Mandantentrennung, Verschlüsselung, Aufbewahrung, Löschpropagierung | Geteilter Vektorspeicher über Geschäftsbereiche |
| Embedding-Modell | Anbieter-AVV, Trainingsdaten-Herkunft, Sub-Auftragsverarbeiter offenlegen | Anbieter ohne dokumentiertem Trainingskorpus einsetzen |
| LLM | Anbieter-AVV, Art.-28-Kette, Residenz, Opt-out aus Training | Default-API-Calls, die Daten ins Training fließen lassen |
| Tool-Calls | Risiko-Bewertung pro Tool, Aktions-Audit-Log, Human-in-Loop wo nötig | Agent mit Schreibzugriff auf Produktivsysteme ohne Schwellen |
| Prompt-/Antwort-Logs | Aufbewahrungsregeln, Zugriffskontrolle, Schwärzung wo angemessen | Logs unbegrenzt in Observability-Tools ohne DSFA-Review |
Der Oversharing-Reset
Bevor Sie einen KI-Agenten an SharePoint, OneDrive oder einen anderen internen Wissensspeicher anschließen, eine Berechtigungs-Prüfung laufen lassen. Microsofts eigene Daten zeigen, dass in einem durchschnittlichen M365-Tenant Tausende Dateien für alle in der Organisation zugänglich sind. Ein RAG-Agent wird sie in Antworten an die Oberfläche bringen. Die DSFA muss einen Pre-Deployment-Oversharing-Reset explizit fordern - nicht nur eine Anbieter-Aussage „Berechtigungen werden geerbt“.
Was RAG-Fehler kosten
- Bußgeld-Exposition - fehlende DSFA plus exponierte besondere Daten verbindet Art. 83 Abs. 4 und Abs. 5
- Zivilklagen - Schadenersatz nach Art. 82 hat eine niedrige Hürde. Eine Handvoll Kläger mit je 500-2.000 Euro Vergleich summiert sich
- Audit-Nachzieher - ein Aufsichts-Befund löst einen Folge-Audit-Zyklus aus, der die DSB Monate bindet
- Projekt-Stopp - Unterlassungsverfügungen zwingen den Agenten mitten im Rollout offline. Versunkene Kosten gehen auf null
- Reputation - öffentliche Pressemitteilungen zu KI-Bußgeldern sind heute Standardmuster
RAG-Architektur für DSFA-Reife
Was funktioniert
- ✓ Scoped Retrieval - nur den für den Use Case nötigen Korpus indizieren
- ✓ Geerbte ACLs - Retrieval respektiert Quellsystem-Berechtigungen zur Query-Zeit
- ✓ Single-Tenant-Vektorspeicher - logische und idealerweise physische Trennung
- ✓ EU-residentes Modell - Aleph Alpha, Mistral, EU-Region OpenAI, AWS Bedrock Frankfurt
- ✓ Dokumentierte Aufbewahrung - Prompt-Logs und Vektoren laufen nach Plan ab
Was im Audit scheitert
- ✗ „Alles indizieren“-Defaults - Anbieter-Demo-Konfigs sind nicht produktivreif
- ✗ Geteilte Vektor-Tenants - kostengetriebene Mandantenfähigkeit ohne Trennungs-Garantien
- ✗ US-only-LLM-Defaults - keine SCC, kein TIA, kein Fallback
- ✗ Offene Aufbewahrung - Logs „sicherheitshalber“ aufbewahrt
- ✗ Keine Lösch-Propagierung - Quelldokument gelöscht, Vektor weiter abfragbar
Wie Superkind passt
Superkind baut individuelle KI-Agenten für den deutschen Mittelstand. Die DSFA ist kein separates Compliance-Projekt, das wir abgeben - sie ist Teil des Build-Prozesses. Wir behandeln die Bewertung als Design-Input, nicht als nachgereichtes Häkchen, und strukturieren Deployments so, dass die DSFA-Dokumentation aus der Architektur herausfällt statt nachträglich rekonstruiert zu werden.
- DSFA-aware-Scoping - der erste Workshop mappt den Use Case gegen die WP248-Kriterien, damit Risiko die Architektur von Tag eins formt
- Sitzt auf Ihrem Stack - der Agent verbindet sich über governte APIs mit Ihrem ERP, CRM, HRIS und SharePoint. Keine neue Plattform extra zu bewerten
- EU-residenz by default - Frankfurt AWS, Deutschland Azure, IONOS, Open Telekom Cloud oder On-Prem. Drittlandtransfer ist Opt-in-Entscheidung, kein Default
- Mandantengetrennter Vektorspeicher - pro Use Case, mit Löschpropagierung und Aufbewahrungsregeln im Deployment verdrahtet
- Aktions-Audit-Log - unveränderliche Aufzeichnung jedes Prompts, Retrievals, Tool-Calls und jeder Agent-Aktion. Der Art.-30-Eintrag schreibt sich selbst
- Human-in-the-Loop-Schwellen - konfigurierbar pro Aktionsklasse, gemappt auf die in der DSFA identifizierte Risikostufe
- AVV und Sub-Auftragsverarbeiter-Doku - mit dem System ausgeliefert, nicht sechs Monate später angefragt
- Betriebsrats-ready - Dokumentation für § 87 BetrVG aufbereitet, mit Betriebsvereinbarungs-Entwurf als Teil der Übergabe
| Ansatz | Klassische KI-Beratung | Superkind |
|---|---|---|
| DSFA-Timing | Nach dem Build, rückwirkend | Mit der Architektur co-designed |
| Vendor-Stack | Was der Plattform-Anbieter mitbringt | EU-Residenz by default, US Opt-in mit SCC + TIA |
| Vektorspeicher | Multi-Tenant-Cloud-Default | Single-Tenant pro Use Case, ACL-aware Retrieval |
| Audit-Log | Observability-Tool mit offener Aufbewahrung | Unveränderliches Agent-Action-Log mit DSFA-Aufbewahrung |
| Betriebsrat | Kunden-Problem nach Launch | Dokumentation für § 87 BetrVG vorgeschaltet |
| DSB-Einbindung | Reviewed nach MVP | Konsultiert in der Scoping-Woche |
Superkind
Pros
- ✓ Compliance by Design - DSFA-Inputs formen den Build, nicht den Patch danach
- ✓ EU-Residenz default - kein nachträgliches Hinterherrennen für SCCs
- ✓ Audit-Log inklusive - Art.-30-Doku fällt aus dem System
- ✓ Betriebsrats-ready - Dokumentations-Paket für Mitbestimmung passt
- ✓ Outcome-Pricing - pro Use Case, nicht pro Lizenz
Cons
- ✗ Kein DSFA-Only-Service - wir bauen Agenten, beraten nicht nur zu Bewertungen
- ✗ Braucht DSB-Engagement - wir ersetzen die DSB nicht
- ✗ Kapazitäts-Limit - fokussiertes Kundenportfolio zu jedem Zeitpunkt
- ✗ Nicht für Self-Serve-Teams - Engagement mit unserem Build-Prozess nötig
Entscheidungsrahmen: Ist Ihr DSFA-Ansatz audit-fest?
Die Aufsichtsbehörden werden nicht nach einer perfekten DSFA fragen. Sie werden fragen, ob eine existiert, ob sie plausibel ist und ob der Verantwortliche sich ernsthaft mit den Risiken auseinandergesetzt hat. Mit dem Rahmen unten Ihre eigene Bereitschaft testen, bevor sie es tun.
| Signal | Was es bedeutet | Aktion |
|---|---|---|
| KI produktiv ohne schriftliche DSFA | Art. 35 Verstoß by default | 7-Schritte-Prozess in diesem Quartal starten - höchstes Risiko zuerst |
| DSB nicht formell zu KI konsultiert | Art. 35 Abs. 2 Lücke, Audit-Befund wartet | Strukturierte DSB-Konsultation pro Agent-Use-Case einplanen |
| Anbieter-Fragebogen ersetzt die DSFA | Sie auditieren den Anbieter, nicht Ihre Verarbeitung | Fragebogen als Input behalten, DSFA darüber durchführen |
| RAG-Agent ohne Oversharing-Audit | Wahrscheinlich Daten außerhalb des Zielkreises sichtbar | Berechtigungs-Reset vor Rollout per DSK Oktober 202513 |
| LLM-API-Calls in US-Region by default | Drittlandtransfer-Risiko ohne SCC und TIA | Auf EU-Residenz umstellen oder Transfer-Kette sauber dokumentieren |
| Hochrisiko-KI nach Anhang III vor August 2026 ausgerollt | FRIA-Pflicht greift parallel zur DSFA | FRIA auf DSFA-Fundament bauen, beides in einem Workstream |
| DSFAs existieren, aber 12+ Monate nicht reviewed | Art. 35 Abs. 11 Lapse, besonders wenn LLM-Versionen wechselten | Jahres-Review-Schedule plus Event-Trigger im Kalender |
Jetzt handeln vs. auf Audit warten
Jetzt handeln
- ✓ Kontrollierte Zeit - 8-20 Wochen pro Agent, geplant
- ✓ Günstiger - 8-80 Tsd. Euro pro DSFA statt siebenstellige Sanierung
- ✓ FRIA-ready - August-2026-Deadline bereits abgedeckt
- ✓ Architektur-Hebel - Funde ändern den Build, nicht die Patches
Warten
- ✗ Bußgeld-Exposition - bis zu 4 Prozent weltweiter Umsatz gestapelt über Verstöße
- ✗ Stopp-Anordnungen - Aufsicht kann einen Live-Agenten anhalten
- ✗ Erzwungene Nacharbeit - Architektur-Änderungen unter Druck
- ✗ Reputations-Drag - öffentliche Pressemitteilungen zu KI-Bußgeldern summieren sich
Häufige Fragen
Eine DSFA ist nach Art. 35 Abs. 1 DSGVO immer dann verpflichtend, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Art. 35 Abs. 3 nennt drei automatische Auslöser: systematische und umfassende Bewertung durch automatisierte Verarbeitung, umfangreiche Verarbeitung besonderer Datenkategorien sowie systematische Überwachung im großen Maßstab. Die Artikel-29-Gruppe (WP248) ergänzt einen Neun-Kriterien-Test - bei zwei erfüllten Kriterien ist in der Regel eine DSFA fällig. Praktisch jeder Unternehmens-KI-Agent erfüllt mindestens drei davon, weshalb die DSK heute formuliert, eine DSFA sei bei KI-Anwendungen häufig erforderlich.
Vorher. Art. 35 Abs. 1 DSGVO verlangt, dass der Verantwortliche die Bewertung vor der Verarbeitung durchführt. Für KI-Agenten heißt das: bevor produktive Daten ins System fließen, idealerweise schon in der Designphase, wenn architektonische Entscheidungen das Risiko noch beeinflussen. Die DSK-Orientierungshilfe ist eindeutig, dass die DSFA Teil der Auswahl und Implementierung einer KI-Anwendung ist, nicht ein nachgereichtes Pflichthäkchen. Eine rückwirkende DSFA ist außerdem ein klares Audit-Signal für jede Aufsichtsbehörde.
Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO fokussiert auf Datenschutzrechte. Eine Grundrechte-Folgenabschätzung (FRIA, Fundamental Rights Impact Assessment) nach Art. 27 EU-KI-VO deckt breitere Grundrechte ab und gilt nur für Betreiber von Hochrisiko-KI, die öffentliche Stellen sind, öffentliche Dienste erbringen oder Hochrisiko-KI in Kreditwürdigkeitsprüfung und Versicherungs-Pricing einsetzen. Art. 27 Abs. 4 sagt ausdrücklich, dass die DSFA die FRIA ergänzt. Praktisch braucht ein Mittelständler mit Hochrisiko-KI nach Anhang III beide - mit der DSFA als Datengrundlage für die FRIA.
In den meisten Fällen ja. Interne KI-Agenten verarbeiten typischerweise Beschäftigtendaten (der Agent agiert unter ihrer Identität, loggt ihre Aktionen, bewertet teilweise ihre Arbeit). Beschäftigte gelten nach WP248 als schutzbedürftige Betroffene, weil sie in einem Abhängigkeitsverhältnis zum Arbeitgeber stehen. Kombiniert mit innovativer Technologie und systematischer Überwachung ist die DSFA-Schwelle klar erreicht. Hamburg LfD und DSK behandeln Beschäftigten-KI-Einsätze als Schwerpunktbereich der Aufsicht.
Nein. Die DSFA-Pflicht liegt beim Verantwortlichen, also bei Ihrem Unternehmen - nicht beim Anbieter. Der Anbieter liefert technische Dokumentation, Modelkarten und ein Sicherheitsprofil als Input für Ihre DSFA, ersetzt sie aber nicht. EDPB-Stellungnahme 28/2024 stellt klar, dass Betreiber für den Einsatz von Modellen, die auf unrechtmäßig verarbeiteten Daten trainiert wurden, haften, sofern sie die Anonymität nicht selbst verifizieren. Anbieter-Doku ist Input - kein Ersatz.
Eine fehlende verpflichtende DSFA fällt unter Art. 83 Abs. 4 DSGVO - die untere Bußgeldstufe mit bis zu 10 Mio. Euro oder 2 Prozent des weltweiten Jahresumsatzes. Das größere Risiko ist die Eskalation. Wenn der Agent zusätzlich gegen einen materiellen Grundsatz verstößt (fehlende Rechtsgrundlage nach Art. 6, automatisierte Entscheidung ohne Schutzmaßnahmen nach Art. 22, Transparenzverstöße nach Art. 13), wandert derselbe Fall in Art. 83 Abs. 5 mit 4 Prozent. Genau diese Stapellogik nutzte der italienische Garante beim 15-Mio-Euro-ChatGPT-Bußgeld im Dezember 2024.
Eine Standard-Prozess-DSFA dauert 4 bis 8 Wochen. Eine KI-Agent-DSFA, die LLM, Retrieval-Augmented Generation und Integrationen in ERP, CRM und HRIS abdeckt, dauert ordentlich gemacht 8 bis 20 Wochen. Das längere Ende reflektiert technische Dokumentation (Modellkarten und Systemkarten nach EDPB AI Auditing Checklist), Bias-Tests, Rechtsgrundlagen-Analyse pro Datenkategorie sowie Lieferanten-Due-Diligence inkl. Drittlandtransfer-Bewertung. Externe Spezialisten einplanen, wenn die DSB keine KI-Erfahrung hat.
Eine fokussierte DSFA auf einen einzelnen KI-Agent-Use-Case (ein Workflow, ein Hauptsystem, ein LLM-Anbieter) liegt bei 8.000 bis 20.000 Euro, wenn intern durch eine KI-erfahrene DSB bearbeitet. Eine Spezialkanzlei oder Beratung, die eine vollständige DSFA auf einem mehrkomponentigen Agentensystem (LLM plus RAG plus mehrere Integrationen) verantwortet, ruft typischerweise 20.000 bis 80.000 Euro im deutschen Markt auf. Die EU-Kommission nennt für komplexe DSFAs allgemein eine Spanne von 14.000 bis 149.000 Euro. Die Kosten sind klein gegenüber dem Bußgeldrisiko.
Ja, verpflichtend nach Art. 35 Abs. 2 DSGVO. Der Verantwortliche muss bei der DSFA den Rat der DSB einholen. Die DSB besitzt die Bewertung nicht - das tut der Verantwortliche - aber ihre Stellungnahme muss dokumentiert sein. Nach § 38 BDSG brauchen deutsche Unternehmen ab 20 ständig mit automatisierter Verarbeitung beschäftigten Personen automatisch eine DSB. Das trifft praktisch jeden Mittelständler, der KI-Agenten einsetzt. Hat Ihre DSB keine KI-Kompetenz, holen Sie eine externe Co-Beratung dazu.
Art. 36 DSGVO verlangt eine vorherige Konsultation, wenn die DSFA ein hohes Restrisiko zeigt, das der Verantwortliche nicht ausreichend mindern kann. Für die meisten KI-Agenten senken gut konzipierte Schutzmaßnahmen (Zweckbindung, Datenminimierung, Human-in-the-Loop-Checkpunkte, Audit-Logs) das Risiko unter diese Schwelle. Die DSK bestätigt, dass die Konsultation nur dort nötig ist, wo Maßnahmen nicht reichen. Schutzmaßnahmen bauen, Restrisiko sauber dokumentieren, Warteschlange bei der Landesbeauftragten überspringen.
Funktional ja, auch wenn die formale Pflicht aus § 87 BetrVG und nicht aus der DSGVO kommt. Jeder KI-Agent, der Beschäftigtenverhalten überwacht oder Arbeitsleistung bewertet, unterliegt der Mitbestimmung. Praktikabel: Betriebsrat als Stakeholder in die DSFA aufnehmen, die Stellungnahme nach Art. 35 Abs. 9 dokumentieren und die DSFA-Ergebnisse mit der Betriebsvereinbarung verzahnen, die ohnehin entstehen muss. Beides zusammen spart Monate.
Art. 35 Abs. 11 DSGVO verpflichtet zur Überprüfung, wenn sich das Risiko der Verarbeitung ändert. Für KI-Agenten heißt das: jede Änderung am LLM (Anbieter-Wechsel, Versions-Upgrade), jede neue Tool-Integration, jede neue Datenkategorie, jede Änderung der Nutzergruppe, jeder neue Drittlandtransfer. Die DSK empfiehlt jährliches Review als Basis plus ereignisbasierte Reviews bei materiellen Änderungen. Die meisten Mittelständler unterschätzen diese laufende Last - vom Tag eins an einbudgetieren.
Pseudonymisierung senkt das Risiko, beseitigt aber die DSFA-Pflicht nicht - die Daten sind weiter personenbezogen nach DSGVO. Anonymisierung, falls sie tatsächlich greift, entzieht die Daten dem DSGVO-Anwendungsbereich. EDPB-Stellungnahme 28/2024 setzt die Hürde aber hoch: Ein Modell ist nur dann anonym, wenn es sehr unwahrscheinlich ist, dass Personen aus den Trainingsdaten identifiziert oder personenbezogene Daten über Anfragen extrahiert werden können. Für LLMs und KI-Agenten ist diese Hürde so gut wie nie erreicht.
Quellen
- Art. 35 DSGVO - Datenschutz-Folgenabschätzung (Volltext)
- Art. 83 DSGVO - Allgemeine Bedingungen für die Verhängung von Geldbußen
- DSK Muss-Liste DSFA Version 1.1
- BfDI - Datenschutz-Folgenabschätzungen Übersicht
- WP248 rev.01 - Leitlinien zur Datenschutz-Folgenabschätzung (Art.-29-Gruppe, vom EDPB übernommen)
- EU-KI-VO - Artikel 27 (Grundrechte-Folgenabschätzung / FRIA)
- EU-KI-VO - Artikel 26 (Pflichten von Betreibern)
- EU-KI-VO - Anhang III (Hochrisiko-KI-Systeme)
- EU AI Act Service Desk - Artikel 27 FRIA
- HmbBfDI - Diskussionspapier LLM und personenbezogene Daten (Juli 2024)
- LfDI Baden-Württemberg - Diskussionspapier Rechtsgrundlagen KI Version 2.0 (Oktober 2024)
- DSK - Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)
- DSK - Orientierungshilfe RAG-Systeme (Oktober 2025)
- BfDI - Handreichung KI in Behörden (Dezember 2025, Prof. Dr. Specht-Riemenschneider)
- BayLDA - KI Portal und Beratungsstelle
- BayLDA - KI-Checkliste Version 0.9
- EDPB - Opinion 28/2024 zu KI-Modellen (Dezember 2024)
- EDPB - Pressemitteilung Opinion 28/2024 (Anu-Talus-Zitat)
- EDPB - AI Auditing Checklist (Juni 2024)
- EDPB - AI Enforcement Task Force Statement (Februar 2025)
- EDPS - Generative AI Orientations Version 2 (Oktober 2025)
- Bitkom - KI-Studie 2026 Studienbericht
- Italian Garante - OpenAI/ChatGPT 15-Mio-Euro-Bußgeld (Dezember 2024)
- Court of Rome - Aufhebung des Garante-OpenAI-Bußgelds (März 2026)
- Dutch DPA - Clearview AI 30,5-Mio-Euro-Bußgeld (September 2024)
- CMS GDPR Enforcement Tracker
- DLA Piper - GDPR Fines and Data Breach Survey Januar 2025
- CNIL - Open-Source PIA Software
- CNIL - KI-Entwicklung und DSGVO-Empfehlungen
- BSI - Künstliche Intelligenz Portal
- ENISA - Multilayer Framework for Good Cybersecurity Practices for AI
- ISO/IEC 42001:2023 - AI Management System Standard
- Bundesdruckerei Innovation Hub - Interview Marit Hansen (DSK-Vorsitzende, Februar 2024)
- Keyed - KI-Agenten und Datenschutz: Praxisleitfaden
- ECOMPLY - Kostenanalyse einer DSFA
- BvD - Stellungnahme zur DSB-Benennungspflicht (Dezember 2025)
Bereit, Ihren KI-Agenten mit einer verteidigungsfähigen DSFA auszurollen?
30-Minuten-Call mit Henri buchen. Wir scopen die Bewertung gegen Ihren Use Case und skizzieren einen Build, der zu Art. 35 DSGVO und EU-KI-VO passt.
Demo buchen →
