Definition: Verbotene KI-Praktiken
Verbotene KI-Praktiken sind acht Kategorien von KI-Einsatz, definiert in Artikel 5 der EU-KI-Verordnung, die das Gesetz unabhängig von Branche, Unternehmensgröße oder eingebauten Schutzmaßnahmen grundsätzlich untersagt, weil sie ein nicht hinnehmbares Risiko für Grundrechte darstellen.
Kernmerkmale von verbotenen KI-Praktiken
Artikel 5 listet acht konkrete Praktiken statt eines allgemeinen Risikotests, sodass ein KI-System entweder in eine dieser Kategorien fällt oder nicht. Trifft ein System zu, kann weder technische Dokumentation noch menschliche Aufsicht noch eine Konformitätsbewertung es legal machen.
- Gilt sowohl für Anbieter als auch für Betreiber, unabhängig davon, wo das KI-System entwickelt wurde
- Umfasst unterschwellige Manipulation, Ausnutzung von Schutzbedürftigkeit, Social Scoring und vorausschauende Polizeiarbeit allein auf Basis von Profiling
- Umfasst anlassloses Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie biometrische Kategorisierung sensibler Merkmale
- Umfasst biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken, mit engen, richterlich genehmigten Ausnahmen
Verbotene KI-Praktiken vs. Hochrisiko-KI-System
Ein Hochrisiko-KI-System ist erlaubt, aber an Bedingungen geknüpft: Sobald der Anbieter Konformitätsbewertung, technische Dokumentation und menschliche Aufsicht nach Artikel 16 umgesetzt hat, darf es auf den Markt. Eine verbotene Praktik nach Artikel 5 kennt diesen Weg nicht, denn die EU-KI-Verordnung bewertet hier den Anwendungsfall selbst, nicht nur die Schutzmaßnahmen darum herum, als unvereinbar mit Grundrechten. Ein Bewerbungstool, das Kandidaten anhand von Stellenkriterien bewertet, ist typischerweise Hochrisiko; ein Bewerbungstool, das aus dem Videointerview den emotionalen Zustand eines Kandidaten ableitet, um Zuverlässigkeit vorherzusagen, überschreitet die Grenze zur verbotenen Praktik. Der Unterschied ist praktisch bedeutsam, denn wer einen verbotenen Anwendungsfall fälschlich nur als Hochrisiko einstuft, riskiert die höchsten Bußgelder der Verordnung statt eine nachbesserbare Compliance-Lücke.
Bedeutung von verbotenen KI-Praktiken im Enterprise-KI-Umfeld
Artikel 5 setzt die äußere Grenze dessen, was ein Unternehmen überhaupt bauen oder kaufen darf, und ist damit der erste Filter, den ein KI-Governance-Prozess anwenden sollte, noch bevor ein Anwendungsfall überhaupt nach Risikostufe bewertet wird. Die Bitkom-Studie 2026 zeigt, dass 69 Prozent der deutschen Unternehmen Unterstützung bei der Umsetzung der EU-KI-Verordnung brauchen, während sich bisher nur 24 Prozent ernsthaft damit auseinandergesetzt haben, eine Lücke, die gerade an der Grenze zur verbotenen Praktik am riskantesten ist, weil es hier keine Nachbesserung gibt, sobald ein System läuft.
Methoden und Verfahren für verbotene KI-Praktiken
Die Prüfung auf verbotene Praktiken folgt einem festgelegten rechtlichen Test, nicht einer allgemeinen Ethikprüfung.
Artikel-5-Prüftest
Bevor ein KI-Anwendungsfall in Beschaffung oder Entwicklung geht, sollte er einzeln gegen alle acht Artikel-5-Kategorien geprüft werden, da ein System durchaus mehrere gleichzeitig auslösen kann.
- Zweckbestimmung und Inferenztechnik des Systems gegen alle acht Artikel-5-Kategorien abgleichen
- Enge gesetzliche Ausnahmen prüfen, etwa die richterlich genehmigte Ausnahme für Strafverfolgung bei biometrischer Echtzeit-Identifizierung
- Das Prüfergebnis schriftlich dokumentieren, bevor das System gebaut, gekauft oder eingesetzt wird
Rechtliche und technische Prüfung
Weil mehrere Artikel-5-Kategorien, etwa Emotionserkennung oder biometrische Kategorisierung, von der konkreten Inferenz eines Modells abhängen und nicht vom Typ der Eingabedaten, reicht eine rein rechtliche Prüfung oft nicht aus. Eine technische Prüfperson muss bestätigen, was ein Modell tatsächlich ableitet oder ausgibt, denn ein für die Altersverifikation gebautes Gesichtsanalyse-Tool kann unbemerkt in biometrische Kategorisierung abdriften, sobald es aus denselben Eingabedaten Ethnie oder politische Einstellung ableitet.
Sorgfaltspflicht bei Lieferanten und Beschaffung
Unternehmen, die KI kaufen statt selbst zu bauen, tragen dieselbe Artikel-5-Exposition wie der Lieferant, denn Betreiber sind unmittelbar an die Verbote gebunden. Einkaufsabteilungen verlangen zunehmend von Lieferanten eine schriftliche Bestätigung, dass ein Produkt keine Emotionserkennung, biometrische Kategorisierung oder Social-Scoring-Funktion enthält, besonders bei HR-, Sicherheits- und Kundenanalyse-Tools.
Wichtige Kennzahlen für verbotene KI-Praktiken
Die Steuerung der Artikel-5-Exposition braucht eigene Indikatoren, die über allgemeine Compliance-Kennzahlen hinausgehen.
Prüfabdeckung
- Artikel-5-Prüfabschluss: Anteil der KI-Anwendungsfälle, die vor Einsatz geprüft wurden
- Lieferantenbestätigungen: Anteil der Drittanbieter-KI-Tools mit schriftlicher Artikel-5-Erklärung
- Aktualität der Prüfdokumentation: Anteil der Prüfungen, die innerhalb der letzten 12 Monate überprüft wurden
- Eskalationsrate: Anzahl der pro Quartal zur Rechtsprüfung eskalierten Anwendungsfälle
Strategisches Risikoexposure
Vorstände wollen zunehmend wissen, wie viele KI-Anwendungsfälle nahe an eine Artikel-5-Grenze heranreichen, nicht nur, wie viele formal als Hochrisiko eingestuft sind, denn ein Verstoß gegen Artikel 5 kennt kein Nachbesserungsfenster. Eine IAPP-Erhebung zeigt, dass fast 70 Prozent der Unternehmen Schwierigkeiten haben, ihre konkreten Pflichten zu verstehen, weshalb viele Unternehmen diese Frage bisher gar nicht sicher beantworten können.
Bereitschaft für den Ernstfall
Ein festgelegter Reaktionsplan für die Anfrage einer Marktüberwachungsbehörde, inklusive der Frage, wer Prüfdokumentation innerhalb weniger Tage vorlegen kann, zählt genauso viel wie die Prüfung selbst. Behörden können bereits auf eine Beschwerde einer Einzelperson oder eines Wettbewerbers hin tätig werden, weshalb ein Unternehmen ohne griffbereite Dokumentation ein Glaubwürdigkeitsproblem hat, selbst wenn sich der zugrunde liegende Anwendungsfall am Ende als rechtskonform erweist.
Risikofaktoren und Kontrollen bei verbotenen KI-Praktiken
Die Artikel-5-Exposition konzentriert sich auf bestimmte, vermeidbare Fehlermuster.
Funktionsausweitung in Richtung biometrischer Kategorisierung
Tools mit einem engen, legitimen Zweck, etwa Altersschätzung zur Inhaltsfilterung, können in eine verbotene biometrische Kategorisierung abdriften, wenn ein späteres Feature-Update die Ableitung von Ethnie, Religion oder sexueller Orientierung hinzufügt. Dieses Risiko wächst, sobald ein Lieferant einem bestehenden Modell neue abgeleitete Merkmale hinzufügt, ohne eine erneute Artikel-5-Prüfung durchzuführen.
- Artikel-5-Prüfung bei jedem Modell- oder Feature-Update des Lieferanten wiederholen
- Biometrische Tools vertraglich auf ihren dokumentierten, engen Zweck begrenzen
- Modellausgaben regelmäßig darauf prüfen, ob keine sensiblen Merkmale abgeleitet werden
Unautorisierte Nutzung von Consumer-KI-Tools
Mitarbeiter, die Consumer-Tools zur Emotionserkennung oder Profilbildung eigenmächtig in HR- oder Kundenservice-Workflows einsetzen, können eine Artikel-5-Exposition auslösen, ohne dass jemals eine förmliche Beschaffungsprüfung stattgefunden hat. Weil Betreiber unabhängig davon haften, wer das Tool gebaut hat, kann ein Unternehmen bereits durch die eigenmächtige Nutzung eines einzelnen Teams exponiert sein.
Algorithmische Verzerrung fälschlich als technische Lösung behandelt
Vorausschauende Polizeiarbeit und Social Scoring sind gerade deshalb verboten, weil eine Bias-Korrektur den zugrunde liegenden Schaden nicht neutralisieren kann; die EU-KI-Verordnung stuft sie unabhängig von ihrer Genauigkeit als nicht hinnehmbar ein. Teams, die algorithmische Verzerrung in einem Scoring- oder Profiling-System entdecken, sollten zuerst prüfen, ob der Anwendungsfall selbst unter Artikel 5 fällt, bevor sie in eine Fairness-Korrektur investieren, die das Gesetz ohnehin nicht als Abhilfe akzeptieren würde.
Praxisbeispiel
Ein 90 Mitarbeiter zählendes Logistik- und Lagerunternehmen in Nordrhein-Westfalen testete auf seiner Verladerampe ein kamerabasiertes Zutrittskontrollsystem, das eine vom Lieferanten mitgelieferte “Engagement-Scoring”-Funktion enthielt, die aus Gesichtsausdrücken während der Schicht den emotionalen Zustand der Mitarbeiter ableitete. Vor dem Rollout ließ die Compliance-Verantwortliche das Tool als Teil einer breiteren Compliance-Prüfung durch eine Artikel-5-Prüfung laufen und stellte fest, dass die Engagement-Scoring-Funktion eindeutig unter das Verbot der Emotionserkennung am Arbeitsplatz fiel, da keine der engen medizinischen oder sicherheitsbezogenen Ausnahmen griff. Das Unternehmen behielt die unbeeinträchtigte Zutrittskontrollfunktion bei und verpflichtete den Lieferanten vertraglich, das Emotionserkennungsmodul vollständig zu deaktivieren, bevor der Vertrag unterschrieben wurde. Zusätzlich wurde ein Artikel-5-Prüfpunkt fest in den Beschaffungsprozess für KI-Tools aufgenommen, damit dasselbe Problem nicht bei einem anderen Lieferanten erneut auftritt.
- Schriftliche Artikel-5-Prüfung vor Inbetriebnahme jedes neuen KI-Tools
- Vertragsklausel mit Lieferanten zur schriftlichen Bestätigung, dass keine biometrische Kategorisierung oder Emotionserkennung stattfindet
- Beschaffungs-Checkliste, die alle acht Artikel-5-Kategorien abdeckt
- Vierteljährliche Überprüfung bereits eingesetzter KI-Tools gegen aktualisierte Leitlinien der Kommission
Aktuelle Entwicklungen und Auswirkungen
Drei Entwicklungen prägen aktuell, wie Unternehmen mit ihrer Artikel-5-Exposition umgehen.
Vollständige Durchsetzungsmechanismen seit August 2026 aktiv
Die Verbote nach Artikel 5 gelten bereits seit dem 2. Februar 2025, doch die allgemeine Durchsetzungsarchitektur der EU-KI-Verordnung, einschließlich nationaler Marktüberwachungsbehörden und des förmlichen Beschwerdeverfahrens, trat erst am 2. August 2026 vollständig in Kraft. Damit schloss sich die Lücke zwischen einem rechtlich bindenden Verbot und einem tatsächlich funktionierenden Mechanismus zur Untersuchung und Ahndung von Verstößen.
- Jede Einzelperson, jeder Wettbewerber und jede Organisation kann nun eine förmliche Beschwerde bei einer nationalen Marktüberwachungsbehörde einreichen
- Behörden können bei festgestellter Nichteinhaltung eine Korrektur innerhalb weniger Tage verlangen
- Es gibt keine Nachbesserungsfrist, wie sie Hochrisiko-Systeme bei Dokumentationslücken erhalten
Leitlinien der Europäischen Kommission zu Artikel 5
Die Europäische Kommission hat Auslegungshinweise veröffentlicht, die Grenzfälle klären, etwa wo ein legitimes Altersverifikationstool endet und biometrische Kategorisierung beginnt. Unternehmen, die biometrische, HR-Analytics- oder Scoring-Tools einsetzen, sollten diese Leitlinien als Referenzauslegung behandeln, statt sich allein auf Zusicherungen von Lieferanten zu verlassen.
Wachsende Kontrolle bei HR- und Sicherheits-KI-Tools
Betriebsräte und Arbeitnehmervertretungen in Deutschland verlangen zunehmend von Arbeitgebern den Nachweis, dass KI-Tools zur Mitarbeiterüberwachung oder Leistungsbewertung nicht in die verbotene Emotionserkennung am Arbeitsplatz hineinreichen. Dieser Druck macht die Artikel-5-Prüfung von einer juristischen Nebenaufgabe zu einem festen Schritt bei der Beschaffung von HR-Technologie.
Fazit
Artikel 5 zieht eine harte Grenze um acht KI-Anwendungsfälle, die keine Dokumentation, keine Aufsicht und keine Fairness-Nachjustierung legal machen kann, und genau das unterscheidet ihn von jeder anderen Risikostufe der EU-KI-Verordnung. Mit den seit August 2026 vollständig aktiven Durchsetzungsmechanismen können Unternehmen eine Lücke bei verbotenen Praktiken nicht mehr als theoretisches Risiko behandeln, denn jede Einzelperson und jeder Wettbewerber kann nun eine Marktüberwachungsuntersuchung auslösen. Mittelständische Unternehmen, die eine Artikel-5-Prüfung fest in Beschaffung und Produktentwicklung einbauen, schließen die Exposition, bevor ein Tool Mitarbeiter oder Kunden überhaupt erreicht. Wer diese Prüfung als ersten Filter behandelt, noch vor jeder Hochrisiko-Einstufung, hält sein KI-Portfolio von Anfang an im Rahmen des Gesetzes.
Häufig gestellte Fragen
Was genau verbietet Artikel 5 der EU-KI-Verordnung?
Artikel 5 verbietet acht KI-Praktiken: unterschwellige oder manipulative Techniken mit Schadenswirkung, Ausnutzung von Schutzbedürftigkeit aufgrund von Alter oder Behinderung, Social Scoring, vorausschauende Polizeiarbeit allein auf Basis von Profiling, anlassloses Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, Emotionserkennung an Arbeitsplätzen und Bildungseinrichtungen, biometrische Kategorisierung sensibler Merkmale sowie biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken. Jede Kategorie ist grundsätzlich verboten, mit nur engen, klar definierten Ausnahmen für die Strafverfolgung bei den Kategorien Profiling und biometrische Identifizierung.
Wie unterscheidet sich eine verbotene Praktik von einem Hochrisiko-KI-System?
Ein Hochrisiko-KI-System, etwa ein Bewerbungs- oder Kreditscoring-Tool, ist legal, sobald der Anbieter die Pflichten nach Artikel 16 wie Dokumentation und menschliche Aufsicht erfüllt. Eine verbotene Praktik nach Artikel 5 kennt diesen Weg nicht, denn die EU-KI-Verordnung verbietet den Anwendungsfall selbst, sodass der einzige rechtskonforme Weg der Verzicht auf den Einsatz ist.
Gilt das auch für ein mittelständisches Unternehmen mit unter 250 Mitarbeitern?
Ja. Artikel 5 richtet sich nach der KI-Praktik selbst, nicht nach Unternehmensgröße oder Branche, sodass ein kleiner Logistikbetrieb oder ein regionaler Einzelhändler demselben Verbot unterliegt wie ein Großkonzern. Die Unternehmensgröße beeinflusst die verfügbaren Ressourcen für eine Prüfung, nicht die zugrunde liegende rechtliche Pflicht.
Was kostet eine Artikel-5-Prüfung für ein mittelständisches Unternehmen?
Eine Prüfung für ein einzelnes Tool dauert typischerweise wenige Tage an rechtlicher und technischer Prüfzeit und kostet einen niedrigen vierstelligen Betrag, da sie auf vorhandener Produktdokumentation aufbaut statt auf neuer technischer Arbeit. Ein wiederholbarer Prüfschritt im Beschaffungsprozess kostet anfangs mehr, erspart aber die erneute Prüfung bei jedem weiteren KI-Kauf.
Brauchen wir dafür ein eigenes Compliance-Team?
Nein. Die meisten mittelständischen Unternehmen kombinieren vorhandenes Rechts- oder Datenschutzpersonal mit externer Beratung für die erste Artikel-5-Prüfung. Anbieter wie Superkind, die individuelle KI-Agenten auf bestehende Unternehmenssysteme aufsetzen, ordnen jeden Anwendungsfall bereits während des Aufbaus gegen bekannte regulatorische Grenzen ein, was einer Artikel-5-Prüfung eine dokumentierte Ausgangsbasis statt eines leeren Blatts verschafft.
Wie hängt Artikel 5 mit der DSGVO zusammen?
Eine verbotene KI-Praktik kann gleichzeitig DSGVO-Risiken auslösen, denn Kategorien wie biometrische Kategorisierung und Emotionserkennung verarbeiten typischerweise besondere Kategorien personenbezogener Daten nach Artikel 9 DSGVO. Eine Artikel-5-Prüfung parallel zu einer Datenschutz-Folgenabschätzung durchzuführen, erlaubt es, beide Probleme in einer Prüfung zu erkennen, statt das DSGVO-Problem erst zu entdecken, nachdem das Artikel-5-Problem bereits behoben wurde.
