Definition: Systemisches Risiko (EU-KI-Verordnung)
Systemisches Risiko ist die Einstufungsstufe der EU-KI-Verordnung für Allzweck-KI-Modelle (GPAI), deren Größe oder Reichweite in der EU großflächigen Schaden verursachen könnte.
Kernmerkmale von Systemischem Risiko (EU-KI-Verordnung)
Ein Modell erreicht diese Stufe über eine Rechenleistungsschwelle oder eine Entscheidung der Kommission, und die Einstufung betrifft das Modell selbst, nicht eine einzelne Anwendung darauf.
- Vermutet, sobald die Trainings-Rechenleistung 10^25 FLOPs übersteigt
- Kann auch unabhängig von der Rechenleistung durch die Kommission festgelegt werden, nach Anhang XIII
- Anbieter müssen das AI Office innerhalb von zwei Wochen nach Erreichen der Schwelle benachrichtigen
- Die Pflichten liegen beim Anbieter, nicht bei einem nachgelagerten Anwendungsfall
Systemisches Risiko vs. Allzweck-KI-Modell (GPAI)
Systemisches Risiko ist eine Unterstufe innerhalb des breiteren Allzweck-KI-Modells (GPAI), kein eigener Systemtyp. Nur eine Handvoll Modelle erreicht diese Stufe; die übrigen tragen nur die grundlegenden Transparenzpflichten. Sie unterscheidet sich auch vom Hochrisiko-KI-System, das einen Anwendungsfall wie die Personalauswahl kennzeichnet, nicht die Größe eines Modells.
Bedeutung von Systemischem Risiko im Enterprise-KI-Umfeld
Fast jeder KI-Einsatz in deutschen Unternehmen läuft über ein GPAI-Modell einer Handvoll Anbieter, von denen mehrere die Rechenleistungsschwelle bereits überschreiten. Laut Bitkom-Umfrage 2024 nutzen bereits fast drei von vier deutschen Unternehmen Tools wie ChatGPT, fast alle auf Basis von Modellen in oder nahe dieser Stufe.
Methoden und Verfahren für Systemisches Risiko
Drei Prüfungen bestimmen, wie ein GPAI-Modell in die Stufe mit systemischem Risiko eingeordnet wird.
Vermutung über die Rechenleistungsschwelle
Die EU-KI-Verordnung schafft eine widerlegbare Vermutung für systemisches Risiko, sobald die Trainings-Rechenleistung 10^25 FLOPs übersteigt, eine Schwelle, die führende Anbieter bereits überschreiten.
- Dokumentation des Anbieters auf angegebene Trainings-Rechenleistung prüfen
- Die Schwelle als Vermutung behandeln, nicht als automatische Einstufung
- Internes Fine-Tuning beobachten, das ein Modell über die Grenze schieben könnte
Einstufung durch die Kommission
Die Kommission kann ein Modell auch unabhängig von der Rechenleistung als systemisches Risiko einstufen, nach Kriterien aus Anhang XIII wie Reichweite oder nachgewiesenen Fähigkeiten mit hoher Wirkung.
Meldung und Widerspruchsverfahren
Anbieter müssen das AI Office innerhalb von zwei Wochen nach Erreichen der Schwelle benachrichtigen und können argumentieren, dass vom Modell kein systemisches Risiko ausgeht.
Wichtige Kennzahlen für Systemisches Risiko
Die Nachverfolgung der Abhängigkeit von Modellen mit systemischem Risiko braucht operative, strategische und qualitative Kennzahlen.
Modellbewertung und Testfrequenz
- Testfrequenz: Red-Teaming-Zyklen pro Modellversion
- Dokumentationsabdeckung: Anbieter mit veröffentlichten Bewertungsberichten
- Meldeverzug: Tage zwischen Schwellenüberschreitung und Meldung
- Maßnahmenrückstau: offene Befunde ohne Abschluss
Strategische Abhängigkeit
Gartner geht davon aus, dass bis 2026 über 80 % der Unternehmen generative KI-APIs nutzen werden, gegenüber unter 5 % im Jahr 2023, was die Abhängigkeit von einem Anbieter zur Vorstandsfrage macht.
Bereitschaft zur Vorfallmeldung
Artikel 55 verlangt von Anbietern, schwerwiegende Vorfälle ohne unangemessene Verzögerung an das AI Office zu melden, weshalb Betreiber vom Prozess ihres Anbieters vorab wissen sollten.
Risikofaktoren und Kontrollen bei Systemischem Risiko
Die Einstufung als systemisches Risiko schafft Risiken für den Anbieter und für alle, die auf dem Modell aufbauen.
Abhängigkeit von einem Modell mit systemischem Risiko
Die Abhängigkeit von einem einzigen Anbieter mit systemischem Risiko bündelt Risiken an einer Stelle.
- Eine Durchsetzungsmaßnahme könnte eine Modellversion einschränken oder zurückziehen
- Ein schwerwiegender Vorfall beim Anbieter kann nachgelagert durchschlagen
- Verträge garantieren selten eine Vorwarnung bei einer Änderung der Einstufung
Cybersicherheitsrisiko
Artikel 55 verlangt von Anbietern, Modell und Infrastruktur zu sichern, doch ein Mittelstandsunternehmen, das darauf aufbaut, trägt weiterhin die Sicherheit des eigenen Stacks.
Reputations- und Regulierungsrisiko
Gerät ein Anbieter ins Visier des AI Office oder einer Marktüberwachungsbehörde, müssen auch nachgelagerte Unternehmen Fragen zur eigenen Betroffenheit beantworten.
Praxisbeispiel
Ein 95-Mitarbeiter-Anbieter von Industriesoftware in Nordrhein-Westfalen baute einen technischen Support-Assistenten auf einem Basismodell mit systemischem Risiko auf. Der Compliance-Verantwortliche prüfte die Bewertungsberichte des Anbieters, dokumentierte, warum der Assistent außerhalb der Hochrisiko-Kategorien liegt, und machte die Prüfung zum festen Teil der vierteljährlichen Vertragsprüfung.
- Dokumentierter Nachweis, dass der Anwendungsfall außerhalb der Hochrisiko-Kategorien liegt
- Vierteljährliche Nachverfolgung der Meldungen des Anbieters zum systemischen Risiko
- Ein Ersatzanbieter für den Fall eines Zugriffswechsels identifiziert
- Interner Eskalationsweg für einen vom Anbieter gemeldeten Vorfall
Aktuelle Entwicklungen und Auswirkungen
Die Durchsetzung bei systemischem Risiko bewegt sich von Papierregeln zu aktiver Aufsicht.
Durchsetzung durch das AI Office
Das AI Office erhielt am 2. August 2026 volle Ermittlungs- und Bußgeldbefugnisse gegenüber Anbietern mit systemischem Risiko, ein Jahr nach Inkrafttreten der Pflichten.
- Erste Durchsetzungsmaßnahmen und Leitlinien werden erwartet
- Bußgelder bei Verstößen können bis zu 15 Millionen Euro oder 3 % des Umsatzes erreichen
- Nationale Behörden stimmen sich mit dem AI Office ab
Annahme des Code of Practice
Große Anbieter unterzeichneten den freiwilligen GPAI Code of Practice, der festlegt, wie die Pflichten aus Artikel 55 zu erfüllen sind.
Anpassungen durch den Digital Omnibus
Der Vorschlag zum Digital Omnibus, der 2026 geprüft wird, betrifft mehrere Fristen der KI-Verordnung, lässt aber die Schwelle für systemisches Risiko unverändert.
Fazit
Systemisches Risiko liegt eine Stufe über den üblichen GPAI-Pflichten und betrifft nur eine Handvoll Modelle, doch seine Wirkung erreicht jedes Unternehmen, das darauf aufbaut. Die Vermutung zur Rechenleistung, die Einstufung durch die Kommission und die Pflichten aus Artikel 55 befinden sich inzwischen in aktiver Durchsetzung, nicht mehr im Entwurfsstadium. Mittelstandsunternehmen tragen diese Pflichten selten direkt, müssen aber trotzdem wissen, ob ihr Modell in diese Stufe fällt. Diese Prüfung als Teil der üblichen Anbietersorgfalt zu behandeln, erspart spätere Überraschungen.
Häufig gestellte Fragen
Was macht ein GPAI-Modell zu einem “systemischen Risiko”?
Ein Modell gilt als systemisches Risiko, sobald die Trainings-Rechenleistung 10^25 FLOPs übersteigt, oder wenn die Kommission es nach Anhang XIII einstuft.
Hat ein Mittelstandsunternehmen bei Nutzung eines solchen Modells direkte Pflichten?
Meist nicht. Die meisten Mittelstandsunternehmen greifen über eine Anbieter-API zu, sodass die Pflichten beim Anbieter liegen.
Wie unterscheidet sich systemisches Risiko vom Hochrisiko-KI-System?
Systemisches Risiko stuft ein Modell nach Größe ein, mit Pflichten für den Anbieter. Ein Hochrisiko-KI-System stuft einen Anwendungsfall ein, etwa die Personalauswahl.
Was kostet die Einhaltung einem Unternehmen mit unter 250 Mitarbeitern?
Vor allem Arbeitszeit für die Prüfung der Anbieterdokumentation, meist wenige Tage pro Anbieter.
Wie lange dauert es zu prüfen, ob ein Anbietermodell systemisches Risiko trägt?
Eine einfache Prüfung der Modellkarte dauert wenige Stunden. Ein fester vierteljährlicher Prozess braucht zwei bis vier Wochen zum Aufbau.
Warum ist diese Einstufung für Unternehmen wichtig, die KI-Mitarbeiter auf Fremdmodellen aufbauen?
Ein KI-Mitarbeiter übernimmt den regulatorischen Status seines Basismodells. Superkind baut auf einem souveränen, EU-konformen KI-Fundament auf, um genau diese übernommene Belastung zu verringern.
