Definition: Hochrisiko-KI-System
Ein Hochrisiko-KI-System nach der EU-KI-Verordnung ist ein KI-System, das Artikel 6 und Anhang III als potenziell erheblich gefährlich für Gesundheit, Sicherheit oder Grundrechte einstufen, weil es in Bereichen wie Beschäftigung, Kreditvergabe, Bildung oder Strafverfolgung eingesetzt wird, und das dadurch verbindliche Anbieter- und Betreiberpflichten auslöst, bevor es den Markt legal erreichen darf.
Kernmerkmale von Hochrisiko-KI-System
Anhang III listet acht Anwendungsbereiche, in denen KI grundsätzlich als Hochrisiko gilt, sofern keine enge Ausnahme nach Artikel 6(3) greift. Ein System, das natürliche Personen profiliert, gilt immer als Hochrisiko, egal wie begrenzt seine Aufgabe erscheint.
- Acht Anhang-III-Bereiche: Biometrie, kritische Infrastruktur, Bildung und Berufsausbildung, Beschäftigung, Zugang zu wesentlichen Dienstleistungen, Strafverfolgung, Migration sowie Rechtspflege
- Ausnahme nach Artikel 6(3) für Systeme mit rein verfahrensbezogener Aufgabe, zur Verfeinerung menschlicher Ergebnisse, zur Mustererkennung ohne Entscheidungseinfluss oder für vorbereitende Arbeiten
- Automatische Hochrisiko-Einstufung, sobald ein System Einzelpersonen profiliert, selbst wenn es sonst unter eine Ausnahme fallen würde
- Gilt sowohl für Anbieter, die das System bauen oder auf den Markt bringen, als auch für Betreiber, die es einsetzen
Hochrisiko-KI-System vs. verbotene KI-Praktik
Eine verbotene KI-Praktik nach Artikel 5 ist grundsätzlich untersagt, etwa Social Scoring durch Behörden oder das anlasslose Auslesen von Gesichtsbildern aus dem Internet zum Aufbau von Erkennungsdatenbanken. Ein Hochrisiko-KI-System ist dagegen erlaubt, aber an Bedingungen geknüpft: Es darf erst nach Konformitätsbewertung, Dokumentation und Umsetzung der Aufsichtspflichten auf den Markt. Der Unterschied ist praktisch bedeutsam, denn wer eine verbotene Praktik fälschlich nur als Hochrisiko einstuft, riskiert die höchsten Bußgelder der Verordnung, während eine übervorsichtige Einstufung eines eigentlich risikoarmen Tools unnötigen Compliance-Aufwand erzeugt. Die meisten alltäglichen Automatisierungen im Unternehmen, etwa interne Dokumentenweiterleitung, fallen in die Kategorie begrenztes oder minimales Risiko, nicht in Hochrisiko.
Bedeutung von Hochrisiko-KI-System im Enterprise-KI-Umfeld
Die richtige Einstufung entscheidet darüber, welche der schwersten Pflichten der Verordnung, Konformitätsbewertung, technische Dokumentation und menschliche Aufsicht, für ein konkretes System überhaupt gelten, und ist damit die folgenreichste Compliance-Entscheidung, die ein Unternehmen zu einem KI-System trifft. Eine Untersuchung der Cloud Security Alliance vom März 2026 ergab, dass mehr als die Hälfte der Organisationen noch kein systematisches Inventar ihrer KI-Systeme führt, weshalb viele gar nicht sicher sagen können, welche ihrer Werkzeuge diese Prüfung überhaupt durchlaufen müssten.
Methoden und Verfahren für Hochrisiko-KI-System
Die Einstufung und Umsetzung der Hochrisiko-Pflichten folgt einer festgelegten rechtlichen Abfolge, nicht einem internen Risikoraster.
Artikel-6-Klassifizierungstest
Der Test prüft zunächst, ob der Zweck eines Systems in eine der Anhang-III-Kategorien fällt, und wendet danach die Ausnahmen nach Artikel 6(3) an, bevor eine endgültige Einstufung feststeht.
- Zweckbestimmung des Systems gegen die acht Anhang-III-Kategorien abgleichen
- Prüfen, ob eine Ausnahme nach Artikel 6(3) greift, und ausschließen, dass das System natürliche Personen profiliert
- Die Einstufungsentscheidung schriftlich dokumentieren, inklusive rechtlicher Begründung, vor Inbetriebnahme
Anbieterpflichten nach Artikel 16
Sobald ein System als Hochrisiko eingestuft ist, trägt der Anbieter nach Artikel 16 die Hauptlast der Compliance. Er muss ein Qualitätsmanagementsystem aufbauen, technische Dokumentation nach Artikel 11 erstellen, eine Konformitätsbewertung abschließen, das System in der EU-Datenbank registrieren, die CE-Kennzeichnung anbringen und die Leistung nach der Markteinführung überwachen, um bei Problemen nachzubessern oder das System zurückzuziehen, einschließlich der Meldung schwerwiegender Vorfälle im Rahmen der KI-Vorfallmeldung. Eine KI-Stückliste verschafft der technischen Dokumentation nach Artikel 11 eine wiederverwendbare Grundlage, indem sie die Modelle, Trainingsdaten und Komponenten des Systems laufend erfasst.
Gestaltung menschlicher Aufsicht (Artikel 14)
Artikel 14 verlangt, dass Hochrisiko-KI-Systeme so gestaltet sind, dass ein Mensch ihre Ausgaben versteht, eingreifen und das System im laufenden Betrieb übersteuern oder anhalten kann. In der Praxis bedeutet das Konfidenzschwellen, die unsichere Entscheidungen, etwa abgelehnte Kredite oder Bewerbungsabsagen, die bei der Prüfung auf algorithmische Verzerrung auffallen, an eine qualifizierte Prüfperson weiterleiten, statt sie automatisch auszuführen.
Wichtige Kennzahlen für Hochrisiko-KI-System
Die Steuerung von Hochrisiko-Status braucht eigene Indikatoren, die über allgemeine KI-Leistungskennzahlen hinausgehen.
Dokumentations- und Inventarabdeckung
- KI-Systeminventar: Anteil der eingesetzten Systeme, die gegen Anhang III abgeglichen sind
- Einstufungsdokumentation: Anteil der Systeme mit unterschriebener, datierter Artikel-6-Begründung
- Vollständigkeit der technischen Akte: Anteil der vorhandenen Artikel-11-Dokumentationselemente
- EU-Datenbankregistrierung: Anteil der eingestuften Systeme, die vor Go-live registriert sind
Strategisches Risikoexposure
Vorstände verfolgen zunehmend, wie viele Hochrisiko-Systeme ein Unternehmen tatsächlich betreibt, als eigenständige Kennzahl neben der laufenden KI-Governance-Berichterstattung. Die Bitkom-KI-Studie 2026 zeigt, dass betroffene deutsche Unternehmen im Schnitt 1,5 Hochrisiko-KI-Systeme betreiben, 29 Prozent aber nicht angeben können, wie viele Hochrisiko-Systeme sie tatsächlich einsetzen, eine Lücke, die jede Risikoberichterstattung auf Vorstandsebene untergräbt.
Qualität der menschlichen Aufsicht
Übersteuerungs- und Eskalationsquoten zeigen, ob die menschliche Aufsicht eine echte Kontrolle ist oder nur ein Stempel. Eine Übersteuerungsquote nahe null bei einem stark frequentierten System, etwa der automatisierten Kreditvorprüfung, deutet meist darauf hin, dass Prüfpersonen markierte Fälle nicht wirklich bearbeiten, statt dass das System fehlerfrei geworden wäre.
Risikofaktoren und Kontrollen bei Hochrisiko-KI-System
Die Einstufung als Hochrisiko bringt spezifische Risiken mit sich, die dokumentierte, laufende Kontrollen erfordern.
Falsche Einstufung der Risikoklasse
Der häufigste und teuerste Fehler ist, ein Anhang-III-System als begrenztes oder minimales Risiko einzustufen, um den Compliance-Aufwand zu vermeiden. Aufsichtsbehörden prüfen gegen die Anwendungsfälle in Anhang III selbst, nicht gegen die interne Risikobezeichnung eines Unternehmens.
- Jedes System mit Bezug zu Beschäftigung, Kredit, Bildung oder Sicherheit vor dem Start durch die Rechtsabteilung prüfen lassen
- Einstufung neu bewerten, sobald sich Anwendungsfall oder Nutzerkreis eines Systems erweitert
- Die schriftliche Artikel-6-Begründung aktuell halten, nicht nur die erste Freigabe
Verwechslung von Anbieter- und Betreiberpflichten
Die Pflichten nach Artikel 16 liegen beim Anbieter, doch Unternehmen, die ein gekauftes Hochrisiko-System wesentlich verändern, können nach Artikel 25 selbst zum Anbieter werden und übernehmen dann die volle Artikel-16-Last. Mittelständische Unternehmen, die eigene Logik auf ein Drittanbietermodell aufsetzen, ohne diese Schwelle zu prüfen, riskieren, die Pflicht erst zu entdecken, wenn eine Aufsichtsbehörde eine technische Akte verlangt, die niemand vorbereitet hat.
Lücken bei menschlicher Aufsicht und Haftung
Ist die menschliche Aufsicht schlecht gestaltet, kann eine fehlerhafte KI-Entscheidung direkte Haftung sowohl nach der Verordnung als auch nach den allgemeinen Regeln zur KI-Haftung auslösen, weil eine Prüfperson, die jede Empfehlung durchwinkt, keine Kontrolle bietet, die vor Gericht Bestand hat. Eine Datenschutz-Folgenabschätzung parallel zur Artikel-6-Einstufung zeigt, wo die Entscheidungen eines Hochrisiko-Systems auch personenbezogene Daten nach der DSGVO berühren, und private Betreiber, die KI für Kreditwürdigkeitsprüfung oder Versicherungsentscheidungen einsetzen, unterliegen zusätzlich der Grundrechte-Folgenabschätzung nach Artikel 27.
Praxisbeispiel
Eine 165 Mitarbeiter zählende private Bildungsakademie bei Dresden setzte ein KI-gestütztes Eignungsbewertungstool ein, um Bewerber für geförderte Ausbildungsplätze vorzusortieren, ein Anwendungsfall aus Anhang III für Bildung und Berufsausbildung. Vor der Verordnung lief das Tool als Standardmodul ohne dokumentierte Einstufung und ohne menschlichen Prüfschritt. Gemeinsam mit dem Softwareanbieter führte die Akademie den Artikel-6-Klassifizierungstest durch, stellte fest, dass das Tool Bewerber profiliert und deshalb unabhängig von jedem Verweis auf eine begrenzte Aufgabe als Hochrisiko gilt, und baute eine technische Akte zur Bewertungslogik und den Trainingsdaten auf. Eine Zulassungsverantwortliche prüft nun jeden Bewerber, den das Tool unterhalb einer festgelegten Konfidenzschwelle einstuft, bevor ein Platz bestätigt oder abgelehnt wird.
- Schriftliche Artikel-6-Einstufungsbegründung, abgezeichnet von Akademieleitung und Softwareanbieter
- Technisches Dokumentationspaket zu Bewertungskriterien, Trainingsdaten und Änderungshistorie
- Prüfwarteschlange für jeden Bewerber unterhalb der Konfidenzschwelle
- Vierteljährliche Berichterstattung zur Übersteuerungsquote an das Aufsichtsgremium der Akademie
Aktuelle Entwicklungen und Auswirkungen
Drei Entwicklungen verändern, wie Unternehmen ihre Arbeit an der Hochrisiko-Einstufung planen.
Digital Omnibus verlängert die Anhang-III-Frist
Die EU-Institutionen einigten sich im Mai 2026 auf das Digital-Omnibus-Paket und verschoben damit die Hochrisiko-Pflichten nach Anhang III, einschließlich Konformitätsbewertung und Anbieterpflichten nach Artikel 16, vom 2. August 2026 auf den 2. Dezember 2027. Die Verlängerung reagiert auf unfertige harmonisierte Normen und begrenzte Kapazität bei benannten Stellen, nicht auf eine Änderung der Einstufungsregeln selbst.
- Hochrisiko-Pflichten nach Anhang III gelten jetzt ab dem 2. Dezember 2027
- In andere regulierte Produkte eingebettete Hochrisiko-Systeme nach Anhang I verschieben sich auf den 2. August 2028
- Transparenzpflichten nach Artikel 50 und die KI-Kompetenz-Anforderungen nach Artikel 4 bleiben vom ursprünglichen Zeitplan unberührt
Entwurf der Kommissionsleitlinien zur Klassifizierung
Die Europäische Kommission veröffentlichte 2026 Entwurfsleitlinien, die klären, wie die Ausnahmen nach Artikel 6(3) in der Praxis anzuwenden sind, um uneinheitliche Einstufungsentscheidungen zwischen Mitgliedstaaten zu verringern. Unternehmen sollten diese Leitlinien nach ihrer Finalisierung als Referenzauslegung behandeln, statt sich allein auf externe Rechtskommentare zu verlassen.
Wachsender Druck auf KI-Systeminventare
Während sich Aufsichtsbehörden auf die Durchsetzung vorbereiten, verlangen Einkaufsabteilungen zunehmend von Lieferanten, den Anhang-III-Status eines Systems anzugeben und Einstufungsnachweise vor Vertragsabschluss vorzulegen. Das verschiebt die Hochrisiko-Einstufung von einer juristischen Nebenaufgabe hin zu einem festen Punkt auf der Lieferanten-Checkliste für Unternehmens-KI.
Fazit
Die Hochrisiko-Einstufung ist die Weiche, die entscheidet, ob ein KI-System mit routinemäßiger Freigabe starten kann oder zuerst Konformitätsbewertung, technische Dokumentation und menschliche Aufsicht durchlaufen muss. Die Verlängerung auf Dezember 2027 durch den Digital Omnibus verschafft Planungszeit, keine Befreiung, denn die Artikel-6-Einstufung und die Anbieterpflichten nach Artikel 16 müssen für jedes Anhang-III-System trotzdem erarbeitet werden. Mittelständische Unternehmen, die jetzt einen belastbaren Einstufungsprozess aufbauen, vermeiden sowohl Hektik bei der neuen Frist als auch das Risiko, dass eine Aufsichtsbehörde eine allzu großzügige Selbsteinstufung später kassiert. Wer die Einstufung als frühe Designentscheidung behandelt und nicht als nachträglichen Compliance-Flicken, hält einen Hochrisiko-Einsatz sowohl rechtssicher als auch tatsächlich vertrauenswürdig.
Häufig gestellte Fragen
Was macht ein KI-System nach der EU-KI-Verordnung zum Hochrisiko-System?
Anhang III listet acht Anwendungsbereiche, darunter Beschäftigung, Kredit- und Versicherungszugang, Bildung, Biometrie, kritische Infrastruktur, Strafverfolgung, Migration und Rechtspflege, in denen KI grundsätzlich als Hochrisiko gilt. Ein System in einem dieser Bereiche ist immer Hochrisiko, wenn es Einzelpersonen profiliert, und qualifiziert sich sonst nur dann für eine enge Ausnahme nach Artikel 6(3), wenn seine Rolle auf eine verfahrensbezogene, vorbereitende oder rein ergebnisverfeinernde Aufgabe begrenzt ist.
Bedeutet die Verschiebung durch den Digital Omnibus, dass wir Hochrisiko-Pflichten bis 2027 ignorieren können?
Nein. Der 2. Dezember 2027 gilt gezielt für die Konformitätsbewertung und die Anbieterpflichten nach Artikel 16 in Anhang III. Transparenzpflichten nach Artikel 50 und die KI-Kompetenz-Anforderungen nach Artikel 4 gelten weiterhin nach dem ursprünglichen Zeitplan, und wer mit der Einstufungsarbeit bis 2027 wartet, landet in demselben Dokumentationsrückstand, den die Verschiebung eigentlich entlasten sollte.
Gilt die Hochrisiko-Einstufung auch für ein Unternehmen mit unter 250 Mitarbeitern?
Ja. Die Einstufung richtet sich nach dem Anwendungsfall des KI-Systems in Anhang III, nicht nach der Unternehmensgröße. Eine kleine Bildungsakademie, ein Personaldienstleister oder eine regionale Sparkasse trägt bei KI-Einsatz in Beschäftigung, Bildung oder Kreditentscheidungen dieselbe Artikel-6-Pflicht wie ein Großkonzern.
Was kostet die Einstufung und Umsetzung der Pflichten für ein mittelständisches Unternehmen?
Eine erste Einstufungsprüfung für ein einzelnes System dauert typischerweise wenige Wochen und kostet je nach vorhandener Dokumentation einen niedrigen vier- bis fünfstelligen Betrag an rechtlicher und technischer Prüfzeit. Die vollständige Umsetzung der Artikel-16-Pflichten, inklusive technischer Dokumentation und Konformitätsbewertung, kommt mit weiteren Wochen hinzu und skaliert mit der Systemkomplexität, wobei Unternehmen mit bestehenden Qualitätsprozessen schneller fertig sind.
Brauchen wir dafür eigene IT-Ressourcen?
Nein. Die meisten mittelständischen Unternehmen kombinieren eigenes Rechts- oder Compliance-Personal mit einem externen Partner für die technische Dokumentation und die Einstufungsarbeit selbst. Unternehmen wie Superkind, die individuelle KI-Agenten auf bestehende Unternehmenssysteme aufsetzen, dokumentieren Datenflüsse und menschliche Kontrollpunkte bereits im Rahmen des Aufbaus, was einer späteren Artikel-6-Einstufung eine fertige Beweisgrundlage liefert statt eines leeren Blatts.
Wie hängt die Hochrisiko-Einstufung mit einer Datenschutz-Folgenabschätzung zusammen?
Eine Datenschutz-Folgenabschätzung bewertet nach DSGVO Artikel 35 die Datenschutzrisiken für betroffene Personen, während die Hochrisiko-Einstufung nach der EU-KI-Verordnung prüft, ob der Anwendungsfall eines Systems Konformitätsbewertung und menschliche Aufsichtspflichten auslöst. Beide Verfahren laufen parallel, sobald ein Hochrisiko-System auch personenbezogene Daten verarbeitet, und ein Großteil der Risikodokumentation lässt sich für beide Prozesse wiederverwenden statt doppelt aufzubauen.
