Definition: Marktbeobachtung nach Inverkehrbringen
Die Marktbeobachtung nach Inverkehrbringen ist die Pflicht aus Artikel 72 der EU-KI-Verordnung, wonach Anbieter von Hochrisiko-KI-Systemen aktiv und systematisch Daten darüber sammeln, dokumentieren und auswerten müssen, wie das System nach Markteintritt tatsächlich funktioniert, solange es im Einsatz bleibt.
Kernmerkmale von Marktbeobachtung nach Inverkehrbringen
Anders als eine einmalige Prüfung läuft die Marktbeobachtung dauerhaft über die gesamte Betriebszeit des Systems, angepasst an dessen Risikostufe.
- Sammelt Leistungsdaten von Betreibern und aus anderen Quellen, nicht nur aus eigenen Tests des Anbieters
- Prüft, ob das System weiterhin die Anforderungen erfüllt, gegen die es ursprünglich zertifiziert wurde
- Analysiert Wechselwirkungen, wenn das System zusammen mit anderen KI-Systemen läuft
- Fließt als förmlicher, schriftlicher Beobachtungsplan in die technische Dokumentation ein
Marktbeobachtung nach Inverkehrbringen vs. Konformitätsbewertung
Die Konformitätsbewertung ist eine Prüfung zu einem festen Zeitpunkt vor dem Markteintritt eines Hochrisiko-Systems. Die Marktbeobachtung setzt genau dort an, wo diese Prüfung endet, und verfolgt, ob ein System, das am ersten Tag die Bewertung bestand, sich Monate später im realen Betrieb noch genauso verhält. Ein System kann die Konformitätsbewertung sauber bestehen und trotzdem später aus der Konformität driften, genau diese Lücke schließt Artikel 72.
Bedeutung von Marktbeobachtung nach Inverkehrbringen im Enterprise-KI-Umfeld
Die Marktbeobachtung hält ein zertifiziertes System nach dem Start vertrauenswürdig, statt das CE-Zeichen als dauerhafte Garantie zu behandeln. Die 2025 AI Governance Survey von Pacific AI und Gradient Flow fand, dass nur 48 Prozent der Organisationen produktive KI-Systeme aktiv auf Genauigkeit, Drift und Missbrauch überwachen, bei kleinen Unternehmen sinkt dieser Wert auf 9 Prozent.
Methoden und Verfahren für Marktbeobachtung nach Inverkehrbringen
Eine konforme Beobachtungsfähigkeit verbindet einen dokumentierten Plan mit einer funktionierenden Datenpipeline.
Beobachtungsplan und Systemdesign
Der Plan wird Teil der technischen Dokumentation nach Anhang IV und legt fest, welche Daten wie oft und von wem erfasst werden.
- Leistungsindikatoren festlegen, die an die zertifizierten Anforderungen gekoppelt sind
- Erfassungsintervalle passend zu Nutzungsvolumen und Geschwindigkeit möglicher Risikoveränderungen festlegen
- Plan gegen das Kommissionsmuster dokumentieren, sobald es vorliegt, bis dahin direkt gegen Anhang IV
Datenerhebung von Betreibern und anderen Quellen
Artikel 26 Absatz 5 verpflichtet Betreiber, das System zu überwachen und erkannte Risiken zu melden, was sie zu einer zentralen Datenquelle macht, neben Protokollen und Beschwerden.
Laufende Konformitätsbewertung
Daten helfen nur, wenn sie regelmäßig gegen die ursprünglichen Zertifizierungsanforderungen geprüft werden. Reife Anbieter binden das in ihr breiteres KI-Governance-Programm ein, sodass ein Leistungseinbruch denselben Eskalationsweg auslöst wie jedes andere Governance-Signal.
Wichtige Kennzahlen für Marktbeobachtung nach Inverkehrbringen
Die Verfolgung dieser Pflicht braucht Indikatoren, die über allgemeine Produktanalysen hinausgehen.
Operative Beobachtungskennzahlen
- Datenabdeckung: Anteil der eingesetzten Instanzen, die Leistungsdaten zurückmelden
- Prüfrhythmus: tatsächlich durchgeführte, geplante Überprüfungen des Beobachtungsplans
- Drift-Erkennungsverzögerung: Zeit zwischen einer Leistungsverschiebung und ihrer Erkennung
- Betreiber-Reaktionsquote: Anteil der Risikomeldungen, die innerhalb einer festgelegten Frist bestätigt werden
Strategische Risikokennzahlen
Vorstände fragen zunehmend, wie viele Hochrisiko-Systeme aktiv überwacht werden statt nur eingesetzt zu sein. Die Bitkom-KI-Studie 2026 zeigt, dass 52 Prozent der deutschen Unternehmen fehlende Regeln und Kontrolle über ihre KI-Systeme als größte Sorge nennen, noch vor Kosten oder Kompetenzlücken.
Qualitäts- und Genauigkeitskennzahlen
Eine gut geführte Beobachtung verfolgt dieselben Genauigkeits- und Fehlerquoten wie die Konformitätsbewertung, nur fortlaufend statt einmalig. Eine deutliche Abweichung von der zertifizierten Baseline sollte eine Prüfung auf wesentliche Änderung auslösen, nicht auf das nächste geplante Audit warten.
Risikofaktoren und Kontrollen bei Marktbeobachtung nach Inverkehrbringen
Artikel 72 birgt eigene Risiken, die ein schriftlicher Plan allein nicht beseitigt.
Lückenhafte oder rein reaktive Beobachtung
Der häufigste Fehler ist ein Beobachtungsplan, der nur auf dem Papier existiert, weil Betreiber nie eingebunden wurden, um tatsächlich Daten zu melden.
- Datenweitergabe der Betreiber vertraglich vor Auslieferung des Hochrisiko-Systems festlegen
- Datenerhebung automatisieren, wo die Architektur es zulässt
- Einen benannten Verantwortlichen bestimmen, der die Daten nicht nur empfängt, sondern auch auswertet
Datenlücken zwischen Betreiber und Anbieter
Viele mittelständische Betreiber eines zugekauften Hochrisiko-Systems haben kein internes Verfahren, um Leistungsprobleme an den Anbieter zurückzumelden, wodurch dem Beobachtungssystem genau die Felddaten fehlen, auf die Artikel 72 setzt.
Unsicherheit bei Muster und Dokumentation
Das Kommissionsmuster für den Beobachtungsplan sollte bis zum 2. Februar 2026 vorliegen, war Mitte 2026 aber noch nicht formal veröffentlicht, weshalb Anbieter vorerst direkt gegen Anhang IV planen und sich später anpassen müssen.
Praxisbeispiel
Ein 95 Mitarbeiter zählender Anbieter von KI-gestützter Kreditwürdigkeitsprüfungs-Software für regionale Sparkassen nahe Frankfurt stufte sein Scoring-Modell als Hochrisiko-System nach Anhang III ein. Vor Artikel 72 prüfte das Unternehmen die Modellgenauigkeit nur bei jährlichen Audits und übersah so eine schleichende Drift durch veränderte Antragstellerstrukturen. Das Team baute eine Beobachtungspipeline, die monatlich anonymisierte Ergebnisdaten jeder anschließenden Sparkasse zieht, Abweichungen automatisch markiert und Grenzfälle an einen Compliance-Prüfer weiterleitet.
- Monatliches automatisiertes Genauigkeits- und Fairness-Reporting je angeschlossener Sparkasse
- Onboarding-Checkliste für Betreiber mit vertraglicher Pflicht zur Datenweitergabe
- Vierteljährliche Überprüfung des Beobachtungsplans mit Freigabe durch die Compliance-Leitung
- Eskalationspfad von einer markierten Abweichung zur Prüfung auf wesentliche Änderung
Aktuelle Entwicklungen und Auswirkungen
Drei Entwicklungen prägen gerade, wie Anbieter ihre Marktbeobachtung planen.
Digital Omnibus bettet die Beobachtungspflicht in die Anhang-III-Verschiebung ein
Das Digital-Omnibus-Paket verschob die Pflicht zur Marktbeobachtung für Anhang-III-Systeme, zusammen mit der Konformitätsbewertung, vom 2. August 2026 auf den 2. Dezember 2027.
- Marktbeobachtung für Anhang-III-Systeme gilt jetzt ab Dezember 2027, nicht mehr ab August 2026
- Die KI-Vorfallmeldung nach Artikel 73 blieb, anders als diese Pflicht, im ursprünglichen Zeitplan
- Anbieter, die schon vor der Verschiebung am Markt sind, tragen in der Praxis weiterhin eine laufende Beobachtungspflicht
Verzögerter Durchführungsrechtsakt schafft Planungsunsicherheit
Die Frist der Kommission vom Februar 2026 für das standardisierte Muster des Beobachtungsplans verstrich ohne finalen Rechtsakt, sodass Anbieter vorerst gegen die allgemeinen Anforderungen aus Anhang IV planen müssen.
Konvergenz mit KI-Observability-Tools
Gartner prognostiziert, dass 40 Prozent der Organisationen, die KI einsetzen, bis 2028 dedizierte KI-Observability-Tools zur Überwachung der Modellleistung nutzen werden, ein Trend, der sich zunehmend mit dem überschneidet, was Artikel 72 von Anbietern ohnehin verlangt.
Fazit
Die Marktbeobachtung nach Inverkehrbringen macht aus dem Sicherheitsversprechen der EU-KI-Verordnung eine dauerhafte betriebliche Pflicht, kein einmaliges Zertifizierungsereignis. Die Verschiebung auf Dezember 2027 für Anhang-III-Systeme verschafft Planungszeit, doch Datenpipeline und Prüfrhythmus müssen unabhängig von der genauen Frist aufgebaut werden. Anbieter, die Beobachtung als Erweiterung ihrer ohnehin vorhandenen Produktleistungsverfolgung begreifen statt als zusätzliche Compliance-Übung, stehen besser da, sobald das Kommissionsmuster vorliegt. Die Pipeline jetzt aufzubauen, solange das Format noch offen ist, ist einfacher, als sie später nachzurüsten.
Häufig gestellte Fragen
Was verlangt die Marktbeobachtung nach Artikel 72 konkret?
Anbieter von Hochrisiko-KI-Systemen müssen ein System betreiben, das fortlaufend Leistungsdaten über die gesamte Betriebszeit sammelt und auswertet, gestützt auf einen schriftlichen Beobachtungsplan als Teil der technischen Dokumentation. Ziel ist es, Compliance-Drift zu erkennen, bevor sie zu einem Sicherheitsproblem wird.
Wie unterscheidet sich Marktbeobachtung von der KI-Vorfallmeldung?
Die Marktbeobachtung ist die laufende interne Verfolgung der Systemleistung. Die KI-Vorfallmeldung nach Artikel 73 ist eine engere, ereignisgetriggerte Pflicht, die erst dann nach außen greift, wenn etwas die Schwelle eines schwerwiegenden Vorfalls erreicht.
Muss ein mittelständisches Unternehmen mit unter 250 Mitarbeitern das auch machen?
Ja, sofern das Unternehmen Anbieter eines Hochrisiko-KI-Systems ist, gilt die Pflicht unabhängig von der Mitarbeiterzahl, auch wenn sich das Beobachtungssystem proportional zum tatsächlichen Risiko skalieren lässt.
Was kostet der Aufbau eines Beobachtungssystems und wie lange dauert das?
Die Kosten hängen stark davon ab, ob Betreiberdaten bereits automatisch zurückfließen oder erst aufgebaut werden müssen; eine funktionierende Pipeline mit Prüfroutine dauert typischerweise einige Wochen bis wenige Monate. Unternehmen, die bereits ein KI-Inventar führen, kommen meist schneller voran.
Brauchen wir dafür eigene IT-Ressourcen?
Nein. Die meisten mittelständischen Anbieter kombinieren eigenes Compliance-Personal mit einem externen Partner für Datenpipeline und Dashboards. Unternehmen wie Superkind, die KI-Agenten mit Anbindung an bestehende Unternehmenssysteme bauen, protokollieren Ausgaben und Ausnahmen bereits im Rahmen des Aufbaus, was einem Beobachtungsplan eine fertige Datengrundlage liefert statt eines leeren Blatts.
Heißt der Digital Omnibus, dass wir bis 2027 warten können?
In der Praxis nicht. Die Frist Dezember 2027 gilt für die Anhang-III-Pflichten, doch bereits heute eingesetzte Systeme erzeugen reale Leistungsrisiken, die ein verzögerter Beobachtungsplan nicht rückwirkend abdeckt. Anbieter, die die Datenpipeline jetzt aufbauen, vermeiden Hektik, sobald das Kommissionsmuster feststeht.
