Deepfake

Kaum ein KI-Begriff ist so bekannt und zugleich so unscharf benutzt wie Deepfake. Umgangssprachlich heißt so fast jede Fälschung mit KI. Rechtlich ist die Sache seit der KI-Verordnung enger: Ein Deepfake ist ein Bild-, Ton- oder Videoinhalt mit ganz bestimmten Merkmalen, und an diese Merkmale knüpft seit dem 2. August 2026 eine Offenlegungspflicht.

Vier Merkmale: die Definition der KI-Verordnung

Art. 3 Nr. 60 der KI-Verordnung beschreibt einen Deepfake als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Daraus ergeben sich vier Prüffragen:

1. Medium: Handelt es sich um Bild, Ton oder Video? Texte fallen nicht darunter.
2. Entstehung: Wurde der Inhalt durch KI erzeugt oder manipuliert? Klassische Bildbearbeitung ohne KI zählt nicht.
3. Bezug zur Wirklichkeit: Ähnelt er realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen?
4. Täuschungseignung: Könnte jemand ihn fälschlich für echt halten?

Zwei Punkte überraschen viele. Erstens geht es nicht nur um Menschen: Ein fotorealistisches KI-Bild einer Produktionshalle, die es so nicht gibt, kann ein Deepfake sein. Zweitens sind KI-Texte nie Deepfakes im Sinne der Verordnung. Für sie gilt eine eigene Regel, siehe KI-Kennzeichnungspflicht. Das Bundesamt für Sicherheit in der Informationstechnik verwendet den Begriff in seiner Gefahrenbeschreibung weiter und zählt auch gefälschte Texte dazu; für die Offenlegungspflicht zählt aber die enge Definition.

Die Definition hat eine kurze Geschichte. Der Begriff entstand Ende 2017 in einem Online-Forum, wo KI-manipulierte Videos unter diesem Namen kursierten. Die EU-Kommission übernahm ihn im April 2021 in ihren Entwurf der KI-Verordnung; dort mussten die Inhalte realen Vorbildern noch „merklich“ ähneln. In der verabschiedeten Fassung ist dieses Wort gestrichen; nach unserer Einschätzung liegt die Schwelle damit eher niedriger.

Was Unternehmen offenlegen müssen

Wer ein KI-System beruflich nutzt, um Deepfakes zu erzeugen, muss nach Art. 50 Abs. 4 offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde, klar erkennbar und spätestens beim ersten Kontakt. Eine maschinenlesbare Markierung im Hintergrund, etwa über C2PA, genügt dafür nach den Leitlinien der Kommission nicht.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine Erleichterung: Der Hinweis muss vorhanden sein, darf aber so gestaltet werden, dass er die Darstellung nicht beeinträchtigt, etwa im Abspann. Ein Werbespot ist nicht automatisch ein künstlerisches Werk.

Ein Beispiel aus dem Employer Branding

Ein fiktiver Maschinenbauer, beispiel-maschinenbau.de, lässt seinen Vertriebsleiter mit dessen Einwilligung als KI-Avatar in einem Recruiting-Video auftreten; Stimme und Mimik sind synthetisch, der Text stammt von der Personalabteilung. Das Video zeigt eine reale Person und wirkt echt, also ist es ein Deepfake und braucht einen Hinweis. Die Einwilligung des Vertriebsleiters ist trotzdem nötig, denn sie regelt das Recht am eigenen Bild nach dem Kunsturhebergesetz; sie ersetzt den Hinweis aber nicht.

Das Risiko von außen: Betrug, Rufschaden, falsche Anzeigen

Für viele Unternehmen ist die eigene Kennzeichnung das kleinere Thema. Das BSI nennt als Bedrohungen unter anderem Social Engineering wie den sogenannten CEO-Fraud mit gefälschten Stimmen, Desinformation und Verleumdung. Typische Muster sind:

• Geklonte Stimmen am Telefon, die Zahlungen oder Datenherausgaben anweisen.
• Gefälschte Empfehlungen, in denen bekannte Gesichter angeblich Produkte loben, auch Ihre.
• Manipulierte Aufnahmen von Führungskräften, die Aussagen zeigen, die nie gefallen sind.

Die Rechtslage wird dabei schärfer. Ab dem 2. Dezember 2026 verbietet die KI-Verordnung KI-Systeme für nicht einvernehmliche intime Darstellungen identifizierbarer Personen. In Deutschland hat das Bundeskabinett am 7. Oktober 2026 den Entwurf eines Gesetzes gegen digitale Gewalt beschlossen, der unter anderem die identitätsmissbrauchende Verbreitung von Deepfakes unter Strafe stellen soll; Bundestag und Bundesrat haben noch nicht abschließend entschieden.

Erkennen und belegen

Detektoren, die beliebige Deepfakes zuverlässig entlarven, gibt es nicht. Hilfreicher ist der umgekehrte Weg: Herkunftsnachweise für echte und für KI-erzeugte Inhalte. Dazu gehören signierte Herkunftsdaten nach C2PA und unsichtbare Wasserzeichen wie SynthID, mit denen Anbieter ihre KI-Ausgaben markieren. Beide zeigen nur an, was markiert wurde; fehlt eine Markierung, beweist das nicht, dass ein Inhalt echt ist.

Für die Praxis bedeutet das: Prozesse schlagen Technik. Ein Rückrufverfahren bei ungewöhnlichen Anweisungen, eine Quellenprüfung vor dem Teilen und ein festgelegter Weg, Fälschungen zu melden, wirken sofort. Welche Merkmale und Werkzeuge bei verdächtigen Bildern helfen, beschreibt der Beitrag KI-Bilder erkennen: Merkmale, Werkzeuge und Rechtslage.