Definition: KI-System mit begrenztem Risiko (EU-KI-Verordnung)
Ein KI-System mit begrenztem Risiko nach der EU-KI-Verordnung ist ein KI-System außerhalb der verbotenen und Hochrisiko-Kategorien, das dennoch mit Menschen interagiert oder synthetische Inhalte erzeugt und dadurch die Transparenzpflichten aus Artikel 50 statt einer Konformitätsbewertung auslöst.
Kernmerkmale von KI-Systemen mit begrenztem Risiko
Artikel 50 deckt vier Situationen ab, keine feste Liste von Anwendungsfällen, sodass ein einzelner Chatbot mehrere Pflichten zugleich auslösen kann. Jede Pflicht ist eine Offenlegung, keine Freigabe vor Markteintritt.
- Systeme zur direkten Interaktion mit natürlichen Personen: Chatbots, Sprachassistenten
- Emotionserkennungs- und biometrische Kategorisierungssysteme
- Generative KI, die synthetischen Text, Bild, Audio oder Video erzeugt
- Deepfake-Generatoren und KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse
KI-System mit begrenztem Risiko vs. Hochrisiko-KI-System
Ein Hochrisiko-KI-System muss zuerst eine Konformitätsbewertung durchlaufen, weil sein Anwendungsfall erheblichen potenziellen Schaden birgt. Ein System mit begrenztem Risiko trägt keine solche Vermutung; es muss lediglich offenlegen, dass eine Person mit KI zu tun hat. Ein Chatbot kann für sich genommen begrenztes Risiko tragen, wird aber Teil eines Hochrisiko-Workflows, sobald er in eine Einstellungsentscheidung einfließt.
Bedeutung von KI-Systemen mit begrenztem Risiko im Enterprise-KI-Umfeld
Die Pflichten bei begrenztem Risiko betreffen weitaus mehr alltägliche Werkzeuge als die Hochrisiko-Regeln, da nahezu jeder kundenseitige Chatbot unter Artikel 50 fällt. Gartner prognostiziert, dass bis 2026 die Hälfte der Kundenservice-Organisationen generative KI-Assistenten für kundenseitige Aufgaben einsetzen wird.
Methoden und Verfahren für KI-Systeme mit begrenztem Risiko
Die Erfüllung der Artikel-50-Pflichten richtet sich nach der Interaktions- oder Inhaltsart, die ein System erzeugt.
Transparenz per Design bei Mensch-KI-Interaktion
Artikel 50(1) verlangt, dass Anbieter Systeme so gestalten, dass eine Person darüber informiert wird, mit KI zu interagieren, sofern das nicht bereits aus dem Kontext offensichtlich ist.
- Sichtbare KI-Kennzeichnung zu Beginn eines Gesprächs einblenden
- Interfacegestaltung vermeiden, die ein System als menschlich ausgeben könnte
- Jede Berufung auf die Ausnahme “offensichtlich” dokumentieren
Kennzeichnung KI-erzeugter Inhalte (Artikel 50(2))
Anbieter generativer KI-Systeme müssen synthetische Ausgaben in maschinenlesbarer Form kennzeichnen, sodass sie als künstlich erzeugt erkennbar sind, etwa über Metadaten oder Wasserzeichen.
Offenlegung bei Deepfakes und öffentlich relevanten Inhalten (Artikel 50(4))
Betreiber, die Deepfake-Inhalte oder KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse veröffentlichen, müssen spätestens bei der ersten Wahrnehmung offenlegen, dass der Inhalt künstlich erzeugt wurde, klar erkennbar und nicht im Kleingedruckten versteckt.
Wichtige Kennzahlen für KI-Systeme mit begrenztem Risiko
Die Steuerung der Artikel-50-Bereitschaft braucht eigene Indikatoren, getrennt von Hochrisiko-Kennzahlen.
Abdeckung der Offenlegung
- Chatbot-Offenlegungsquote: Anteil der Konversationstools mit sichtbarem KI-Hinweis
- Kennzeichnungsquote: Anteil der synthetischen Ausgaben mit Herkunftsmetadaten
- Deepfake-Offenlegungsquote: Anteil der gekennzeichneten synthetischen Medien
- Kanalabdeckung: Anteil der auf Artikel-50-Lücken geprüften Kontaktpunkte
Strategisches Risikoexposure
Vorstände verfolgen Artikel-50-Exposure zunehmend getrennt von Hochrisiko-Zahlen, da Offenlegungslücken leichter auffallen als Einstufungsfehler. Die Bitkom-Studie vom Februar 2026 zeigt, dass 93 Prozent der deutschen Unternehmen die KI-Verordnung als Treiber für zusätzlichen Compliance-Aufwand sehen.
Qualität der Offenlegung
Ein Hinweis, der zwar existiert, aber leicht übersehen wird, etwa Text tief im Einstellungsmenü, erfüllt nicht den Standard “klar und deutlich” aus Artikel 50.
Risikofaktoren und Kontrollen bei KI-Systemen mit begrenztem Risiko
Der Status begrenztes Risiko bringt trotz geringerer Pflichten spezifische, laufende Compliance-Risiken mit sich.
Begrenztes Risiko mit keinem Risiko verwechseln
Der häufigste Fehler ist die Annahme, “begrenztes Risiko” bedeute “kein Handlungsbedarf”, da Artikel 50 unabhängig von Risikostufe oder Unternehmensgröße gilt.
- Jedes kundenseitige oder inhaltserzeugende KI-Tool inventarisieren
- Eine benannte Verantwortung für die Artikel-50-Offenlegung in Marketing und Service festlegen
- Die Offenlegungsgestaltung bei jedem Anbieterwechsel eines Tools neu prüfen
Uneinheitliche Offenlegung über Kanäle hinweg
Ein Chatbot trägt auf der Website vielleicht einen klaren KI-Hinweis, nicht aber in einem später hinzugefügten WhatsApp- oder Sprachkanal, was eine Lücke offenlässt, selbst wenn der ursprüngliche Rollout konform war.
Technische Lücken bei Kennzeichnung und Wasserzeichen
Viele von mittelständischen Marketingteams genutzte generative KI-Tools betten standardmäßig noch keine maschinenlesbaren Herkunftsmetadaten ein, wodurch die Kennzeichnungspflicht des KI-Anbieters unerfüllt bleibt, selbst wenn eine menschliche Offenlegung vorhanden ist.
Praxisbeispiel
Ein 130 Mitarbeiter zählender Online-Möbelhändler in Niedersachsen betrieb einen Website-Chatbot und erzeugte KI-Produktfotos für Saisonkampagnen. Vor August 2026 trug weder der Chatbot einen KI-Hinweis noch trugen die Bilder Herkunftsmetadaten. Gemeinsam mit seiner E-Commerce-Agentur ergänzte der Händler einen sichtbaren KI-Assistenten-Hinweis, wechselte zu einem Bildtool mit eingebauter Kennzeichnung und dokumentierte beide Änderungen für seinen Datenschutzbeauftragten.
- Sichtbarer KI-Hinweis zu Beginn jedes Chatbot-Gesprächs
- Maschinenlesbare Herkunftsmetadaten in KI-generierten Produktbildern
- Vierteljährliche Kanalprüfung über Website, App und soziale Medien
- Artikel-50-Compliance-Protokoll, geteilt mit dem Rechtsberater des Händlers
Aktuelle Entwicklungen und Auswirkungen
Drei Entwicklungen prägen den Umgang mit Artikel 50, nachdem dessen Frist verstrichen ist.
Durchsetzung verlagert sich auf Offenlegungslücken
Da der Digital Omnibus die meisten Hochrisiko-Pflichten nach Anhang III auf Dezember 2027 verschiebt, haben Aufsichtsbehörden mehr Kapazität für frühe Durchsetzung von Artikel 50.
- Verbraucherschutzstellen prüfen Chatbots auf fehlende Offenlegungen
- Journalisten melden zunehmend unmarkierte Deepfakes und KI-generierte Nachrichten
- Behörden bevorzugen bislang sichtbare Korrekturen wie Hinweisbanner gegenüber langwierigen Verfahren
EU-Verhaltenskodex zu KI-generierten Inhalten
Die Europäische Kommission hat einen freiwilligen Verhaltenskodex zur Transparenz KI-generierter Inhalte vorangetrieben, der Anbietern Kennzeichnungstechniken als akzeptierten Nachweis für Artikel 50(2) an die Hand gibt.
Offenlegungsklauseln in der Beschaffung
Unternehmenskäufer verlangen zunehmend schriftlich von KI-Anbietern, welche Artikel-50-Pflichten ihr Produkt bereits erfüllt, wodurch Kennzeichnung und Offenlegung früher in die Anbieterauswahl einfließen.
Fazit
Der Status begrenztes Risiko betrifft die meisten KI-Tools, die ein Unternehmen im Alltag tatsächlich nutzt, auch wenn seine Pflichten leichter wiegen als die Hochrisiko-Compliance. Die Offenlegungspflichten aus Artikel 50 sind einfach zu beschreiben, aber leicht zu übersehen, über jeden Kanal hinweg, den ein Tool erreicht, und genau dort schauen Behörden zuerst hin. Mittelständische Unternehmen, die jetzt ihre kundenseitigen KI-Tools inventarisieren, statt anzunehmen, begrenztes Risiko bedeute kein Risiko, vermeiden Durchsetzungsrisiken und die Kosten, wenn ein Kunde eine nicht offengelegte KI-Interaktion selbst entdeckt. Artikel 50 als dauerhafte Designanforderung zu behandeln, nicht als Häkchen beim Launch, hält einen Einsatz vertrauenswürdig, wenn neue Tools hinzukommen.
Häufig gestellte Fragen
Was macht ein KI-System nach der EU-KI-Verordnung zum “System mit begrenztem Risiko”?
Ein System hat begrenztes Risiko, wenn es die Kriterien für Verbot oder Hochrisiko verfehlt, aber dennoch direkt mit Menschen interagiert oder synthetische Inhalte erzeugt. Es löst Transparenzpflichten nach Artikel 50 aus statt einer Konformitätsbewertung.
Muss ein kleines Unternehmen mit einem einfachen Website-Chatbot Artikel 50 wirklich einhalten?
Ja. Artikel 50 gilt unabhängig von der Unternehmensgröße, sodass der Chatbot eines kleinen Händlers dieselbe Offenlegungspflicht trägt wie der eines Großunternehmens, wobei die Pflicht selbst nur ein klarer KI-Hinweis ist.
Wie unterscheidet sich Artikel 50 von der durch den Digital Omnibus verschobenen Hochrisiko-Frist?
Der Digital Omnibus verschob die Hochrisiko-Pflichten nach Anhang III auf den 2. Dezember 2027, doch die Pflichten aus Artikel 50 blieben unberührt und galten planmäßig ab dem 2. August 2026. Ein Unternehmen kann bei den Hochrisiko-Fristen auf dem aktuellen Stand sein und trotzdem gegen Artikel 50 verstoßen, wenn seine Chatbots ungekennzeichnet bleiben.
Was kostet die Einhaltung von Artikel 50 für ein mittelständisches Unternehmen?
Für eine Handvoll kundenseitiger Tools dauert das Ergänzen von Hinweisbannern und der Wechsel zu einem Tool mit eingebauter Kennzeichnung meist Tage statt Monate. Der größere Kostentreiber ist meist, spät zu entdecken, dass ein Tool keine Kennzeichnung unterstützt.
Brauchen wir dafür eigene IT-Ressourcen?
Nein. Der Großteil der Arbeit betrifft Interfacetexte und Anbieterkonfiguration statt Softwareentwicklung, sodass Marketing- und Compliance-Personal das meist mit wenig IT-Unterstützung leisten kann. Unternehmen wie Superkind, die KI-Agenten auf bestehenden Systemen aufbauen, gestalten die Offenlegung von Anfang an in die Interaktion ein.
Wie hängt der Status begrenztes Risiko mit der DSGVO zusammen, wenn ein Chatbot personenbezogene Daten verarbeitet?
Artikel 50 regelt, ob Personen erfahren, dass sie mit KI sprechen, während die DSGVO regelt, wie personenbezogene Daten, die dieser Chatbot erhebt, verarbeitet werden. Ein Chatbot mit Kundendaten braucht meist beides, geprüft in derselben Rollout-Überprüfung.
