Definition: Deepfake
Ein Deepfake ist ein KI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt, der einer real existierenden Person, einem Objekt, Ort oder Ereignis so stark ähnelt, dass er authentisch wirkt, obwohl er etwas zeigt, das nie stattgefunden hat.
Kernmerkmale von Deepfake
Deepfakes entstehen mit generativen Modellen, die trainiert werden, das Gesicht, die Stimme oder das Erscheinungsbild einer bestimmten Person aus vorhandenen Fotos, Aufnahmen oder Videos nachzubilden. Die Ergebnisse reichen von vollständig synthetischen Videos bis zu einem subtil veränderten Stimmschnipsel, der über einen echten Telefonanruf gelegt wird.
- Basiert auf Generative Adversarial Networks oder Diffusionsmodellen, trainiert auf Zieldaten des Erscheinungsbilds
- Überzeugend genug, dass ungeschulte Betrachter oder Zuhörer es nicht sicher von echtem Material unterscheiden können
- Nahezu in Echtzeit einsetzbar bei Live-Sprach- oder Videoanrufen, nicht nur bei vorab aufgezeichneten Clips
- Unterliegt einer spezifischen gesetzlichen Kennzeichnungspflicht, unabhängig davon, ob eine Täuschungsabsicht vorliegt
Deepfake vs. Generative KI
Generative KI ist die übergeordnete Technologiekategorie, die neue Texte, Bilder, Audio- oder Videoinhalte aus einem Modell erzeugt, von Marketingtexten bis zu Produktentwürfen. Ein Deepfake ist eine enge, risikoreiche Anwendung derselben Technologie: ein Inhalt, der gezielt eine reale, identifizierbare Person oder ein reales Ereignis so genau nachahmt, dass er als echt durchgehen kann. Die meisten generativen KI-Ausgaben unterliegen über allgemeine Kennzeichnungsempfehlungen hinaus keiner Offenlegungspflicht, während Deepfakes eine eigenständige rechtliche Transparenzpflicht auslösen, sobald sie einer realen Person oder einem realen Ereignis ähneln, weil das Schadenspotenzial wie Betrug, Verleumdung, nicht einvernehmliche Bildinhalte oder Wahlbeeinflussung ungleich höher ist als bei einer generischen, von KI verfassten E-Mail.
Bedeutung von Deepfake im Enterprise-KI-Umfeld
Deepfakes haben sich von einem Reputationsärgernis zu einem operativen Betrugsvektor im Unternehmen entwickelt. Gartner fand heraus, dass 62 % der befragten Unternehmen bereits einen deepfake-bezogenen Sicherheitsvorfall erlebt hatten, aufgeteilt auf Audio- (41 %) und Video-Angriffe (35 %), meist mit dem Ziel, eine Führungskraft zu imitieren, um eine Zahlung zu autorisieren oder eine Freigabekontrolle zu umgehen. Anders als ein Hochrisiko-KI-System nach Anhang III muss ein Deepfake nicht als Hochrisiko eingestuft werden, um regulatorische Pflichten auszulösen. Die Transparenzpflicht nach Artikel 50 der EU-KI-Verordnung gilt unabhängig davon, allein weil der Inhalt einer realen Person ähnelt.
Methoden und Verfahren für Deepfake
Unternehmen kombinieren technische Erkennung mit prozessualer Verifikation, um Deepfake-Risiken zu steuern, bevor und nachdem ein Inhalt Mitarbeitende oder Kunden erreicht.
Erkennung und Herkunftsprüfung
Erkennungswerkzeuge analysieren Video-, Audio- und Bildartefakte, etwa unnatürliches Blinzeln, inkonsistente Lichtverhältnisse oder spektrale Lücken bei geklonten Stimmen, um wahrscheinlich synthetische Inhalte zu markieren. Herkunftsstandards wie C2PA betten kryptografische Metadaten bereits bei der Aufnahme ein, sodass nachgelagerte Systeme prüfen können, ob ein Bild oder Video verändert wurde.
- Automatisierte Artefakt- und Metadatenanalyse eingehender Medien
- Stimmprofil- und Liveness-Prüfungen bei hochwertigen Telefon- oder Videoanfragen
- Abgleich der angegebenen Absenderidentität mit bekannten Kontaktkanälen
Rückruf-Verifikationsprotokolle
Finanz- und Assistenzteams verlangen zunehmend einen Rückruf an eine vorab hinterlegte Nummer, bevor eine per Telefon oder Video angeforderte Zahlung oder Zugangsdatenänderung ausgeführt wird, unabhängig davon, wie überzeugend der Anrufer klingt. Dieser eine prozessuale Schritt vereitelt die überwiegende Mehrheit der Echtzeit-Stimmklon-Betrugsversuche, weil er den synthetischen Kanal des Angreifers vollständig aus der Verifikationsschleife entfernt.
Kennzeichnungs- und Offenlegungspflichten
Nach Artikel 50 müssen Anbieter und Betreiber, die Deepfake-Inhalte erzeugen oder manipulieren, klar und maschinenlesbar offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde, mit Anwendbarkeit ab dem 2. August 2026. Marketing-, Kommunikations- und Schulungsinhaltsteams, die synthetische Stimmen oder Avatare nutzen, brauchen einen Kennzeichnungsworkflow und nicht nur ein Erkennungswerkzeug, um konform zu bleiben.
Wichtige Kennzahlen für Deepfake
Die Steuerung von Deepfake-Risiken wird sowohl über Erkennungsleistung als auch über organisatorische Bereitschaftsindikatoren gemessen.
Erkennungs- und Reaktionskennzahlen
- Erkennungsgenauigkeit auf bekannten Deepfake-Benchmarks: über 90 %
- Zeit bis zur Verifikation einer verdächtigen Zahlungs- oder Zugangsanfrage: unter 15 Minuten
- Falsch-positiv-Rate bei legitimen, fälschlich als synthetisch markierten Medien: unter 5 %
- Abschlussquote der Rückruf-Verifikation bei hochwertigen Anfragen: 100 %
Organisatorische Risikoindikatoren
Über die reine Erkennungsgenauigkeit hinaus möchte die Geschäftsführung wissen, wie exponiert das Unternehmen tatsächlich ist. Die Bitkom-Studie 2026 ergab, dass 75 % der Menschen in Deutschland schon von Deepfakes gehört haben, gegenüber 56 % im Jahr 2024, und 61 % geben an, bereits persönlich einem begegnet zu sein, ein Hinweis darauf, dass Mitarbeitende bereits ein plausibler Einstiegspunkt für Social Engineering auf Basis synthetischer Medien sind.
Schulungs- und Sensibilisierungsquote
Der Anteil der Finanz-, HR- und Assistenzmitarbeitenden, die eine deepfake-spezifische Sensibilisierungsschulung abgeschlossen haben, ist ein Frühindikator, da die meisten erfolgreichen Angriffe eine übereilte Entscheidung ausnutzen und nicht eine technische Lücke in der Erkennungssoftware.
Risikofaktoren und Kontrollen bei Deepfake
Deepfakes erzeugen finanzielle, reputationsbezogene und rechtliche Risiken, die mehrschichtige technische und prozessuale Kontrollen erfordern.
CEO-Betrug und Zahlungsumleitung
Angreifer klonen die Stimme oder das Video einer Führungskraft aus öffentlichen Quartalscalls oder Konferenzvorträgen und weisen damit einen Mitarbeitenden in der Finanzabteilung an, eine dringende Überweisung auszuführen oder Bankdaten zu ändern. Deloitte prognostiziert, dass KI-gestützte Betrugsverluste in den USA bis 2027 auf jährlich 40 Milliarden US-Dollar steigen könnten, wobei Zahlungsbetrug durch Stimmklonen zu den am schnellsten wachsenden Kategorien darin zählt.
- Dringende, außerhalb des üblichen Prozesses angeforderte Zahlungen oder Zugangsdatenänderungen
- Anfragen, die den Empfänger unter Druck setzen, normale Freigabeschritte zu umgehen
- Kontaktkanäle, die leicht von der üblichen Nummer oder Adresse des angeblichen Absenders abweichen
Reputationsrisiko und nicht einvernehmliche Inhalte
Deepfakes, die Mitarbeitende, Führungskräfte oder eine Marke ohne Zustimmung zeigen, etwa in erfundenen Aussagen, manipulierten Produktvorführungen oder nicht einvernehmlichen Bildinhalten, können unmittelbaren Reputationsschaden verursachen, bevor eine Richtigstellung möglich ist. Dieses Risiko liegt nahe an Fragen der KI-Ethik rund um Einwilligung und Würde, da der Schaden oft unabhängig von einem messbaren finanziellen Verlust entsteht.
Regulatorisches Risiko und Datenschutz
Deepfake-Inhalte, die aus dem Gesicht oder der Stimme einer realen Person erstellt werden, verarbeiten biometrienahe personenbezogene Daten, wodurch neben der Offenlegungspflicht nach Artikel 50 auch die DSGVO greift. Ein Unternehmen, das synthetische Inhalte nicht kennzeichnet oder Erkennungsmodelle ohne dokumentierte Rechtsgrundlage mit dem Erscheinungsbild von Mitarbeitenden trainiert, riskiert parallel eine Datenschutzbeschwerde und einen Verstoß gegen die Transparenzpflicht der EU-KI-Verordnung.
Praxisbeispiel
Ein 180 Mitarbeiter zählender Automobilzulieferer in Baden-Württemberg wurde in der Finanzabteilung Ziel eines stimmgeklonten Anrufs, der den Geschäftsführer imitierte und vor einer geplanten Werksabschaltung eine dringende Überweisung an ein neues Lieferantenkonto anwies. Die Leiterin der Finanzabteilung befolgte ein sechs Monate zuvor nach einem Phishing-Beinahe-Vorfall eingeführtes Rückrufprotokoll, rief stattdessen die bekannte Mobilnummer des Geschäftsführers an, und der Betrugsversuch wurde gestoppt, bevor Geld floss. Das Unternehmen weitete die Rückrufregel danach auf alle Zahlungs- und Bankdatenänderungen oberhalb eines festgelegten Schwellenwerts aus und ergänzte das Onboarding um eine Deepfake-Sensibilisierungsschulung.
- Rückruf-Verifikation verpflichtend für jede Zahlungsänderung oberhalb eines festgelegten Schwellenwerts
- Deepfake-Sensibilisierungsmodul im Onboarding und in der jährlichen Compliance-Schulung
- Dokumentiertes Vorfallprotokoll als Grundlage für die Offenlegungs- und Prüfakte nach Artikel 50
- Vierteljährliche Überprüfung der Erkennungswarnungen zusammen mit der Ausnahmewarteschlange der Finanzabteilung
Aktuelle Entwicklungen und Auswirkungen
Drei Entwicklungen verändern, wie Unternehmen 2026 mit Deepfake-Risiken umgehen.
Durchsetzung von Artikel 50 beginnt
Mit der Anwendbarkeit der Transparenzpflichten der EU-KI-Verordnung ab dem 2. August 2026 und dem im Juni veröffentlichten Code of Practice der Europäischen Kommission zu KI-generierten Inhalten haben Unternehmen nun konkrete Leitlinien zur Kennzeichnung synthetischer Inhalte, statt sich auf allgemeine Grundsätze verlassen zu müssen.
- Nationale Marktüberwachungsbehörden veröffentlichen branchenspezifische Kennzeichnungsleitlinien
- Marketing- und Kommunikationsteams bauen Offenlegungsschritte in ihre Content-Workflows ein
- Anbieter von Avatar- und Stimmklon-Werkzeugen betten standardmäßig Herkunftsmetadaten ein
Echtzeit-Stimmklonen senkt die Angriffshürde
Werkzeuge zum Stimmklonen benötigen inzwischen nur noch wenige Sekunden Audiomaterial für einen überzeugenden Klon, was Betrugsversuche mit geklonten Stimmen deutlich ansteigen ließ und telefonisches Social Engineering gegen weit mehr Mitarbeitende praktikabel macht als zuvor.
Erkennung und Governance verschmelzen
Deepfake-Erkennung wird zunehmend in umfassendere KI-Governance-Programme neben Modellüberwachung und Vorfallmeldung eingebettet, statt als eigenständiges Sicherheitswerkzeug betrieben zu werden, da dieselben Eskalationspfade und Prüfprotokolle beiden Zwecken dienen.
Fazit
Deepfakes haben sich von einem abstrakten Desinformationsthema zu einer konkreten Betrugs- und Compliance-Exposition entwickelt, die Finanz-, HR- und Kommunikationsteams direkt betrifft. Die Transparenzpflicht nach Artikel 50 der EU-KI-Verordnung macht die Kennzeichnung zur Rechtspflicht statt zur freiwilligen Höflichkeit, und die Betrugszahlen zeigen, warum Erkennung allein ohne prozessuale Sicherungen wie die Rückrufverifikation nicht ausreicht. Mittelständische Unternehmen, die Deepfake-Bereitschaft als festen Bestandteil ihrer Finanz- und Sicherheitskontrollen behandeln und nicht als einmalige Schulung, werden die nächste Welle von Angriffen mit synthetischen Medien deutlich reibungsloser abfedern. Während sich Erkennungswerkzeuge und Offenlegungspflichten bis 2026 und darüber hinaus gemeinsam weiterentwickeln, wird die Lücke zwischen Unternehmen mit mehrschichtigen Kontrollen und solchen, die sich weiterhin darauf verlassen, dass Mitarbeitende eine Fälschung am Klang erkennen, immer größer.
Häufig gestellte Fragen
Was ist ein Deepfake einfach erklärt?
Ein Deepfake ist ein KI-generierter oder veränderter Bild-, Audio- oder Videoinhalt, der so aussieht oder klingt, als hätte eine reale Person etwas gesagt oder getan, das sie nie gesagt oder getan hat. Er entsteht mit generativen KI-Modellen, die auf echten Fotos, Aufnahmen oder Aufnahmen der imitierten Person trainiert wurden.
Wie reguliert die EU-KI-Verordnung Deepfakes?
Artikel 50 der EU-KI-Verordnung verpflichtet jeden, der Deepfake-Inhalte erstellt oder verbreitet, klar und maschinenlesbar offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Diese Pflicht gilt ab dem 2. August 2026 und unabhängig davon, ob der Ersteller jemanden täuschen wollte.
Gilt die Deepfake-Kennzeichnungspflicht auch für ein kleineres mittelständisches Unternehmen?
Ja. Artikel 50 richtet sich danach, um welche Art von Inhalt es sich handelt, nicht nach der Unternehmensgröße. Eine 50-köpfige Marketingagentur, die eine synthetische Stimme in einem Kundenvideo einsetzt, trägt dieselbe Offenlegungspflicht wie ein Großkonzern. Kleinere Unternehmen sind in der Praxis oft stärker exponiert, weil sie weniger dediziertes Compliance-Personal haben, um eine fehlende Kennzeichnung vor der Veröffentlichung zu erkennen.
Welche Kontrollen stoppen Deepfake-Betrugsversuche tatsächlich?
Erkennungswerkzeuge helfen, doch die Kontrolle, die die meisten realen Betrugsversuche stoppt, ist ein verpflichtender Rückruf an eine vorab hinterlegte Nummer, bevor eine per Telefon oder Video angeforderte Zahlung oder Zugangsdatenänderung ausgeführt wird. Kombiniert mit einer grundlegenden Mitarbeitersensibilisierung schließt diese prozessuale Regel die Lücke, die reine Erkennungssoftware offenlässt.
Wie hängt das Deepfake-Risiko mit der DSGVO und der EU-KI-Verordnung zusammen?
Beide Regelwerke gelten parallel, nicht alternativ. Die DSGVO regelt die Verarbeitung von Gesichts- oder Stimmdaten realer Personen, die zum Aufbau oder Training von Erkennungsmodellen genutzt werden, während Artikel 50 der EU-KI-Verordnung speziell die Offenlegung des Deepfake-Inhalts selbst vorschreibt. Ein Unternehmen, das beides betrifft, sollte die Rechtsgrundlage für jede biometrienahe Datenverarbeitung getrennt von seinem Offenlegungsworkflow nach Artikel 50 dokumentieren.
Brauchen wir ein eigenes KI-Sicherheitsteam, um uns gegen Deepfakes zu verteidigen?
Nein. Die meisten mittelständischen Unternehmen kombinieren einen externen Partner für die Erkennungstechnologie mit klarer interner Verantwortung für Verifikationsprozesse wie Rückrufprotokolle. Superkind etwa baut Erkennungs- und Offenlegungsprüfungen direkt in die KI-Agenten ein, die es für Finanz- und Kommunikations-Workflows bereitstellt, doch die grundlegenden Rückruf- und Schulungskontrollen gelten unabhängig davon, welcher Anbieter die technische Seite unterstützt.
