Die Qualität KI-generierter synthetischer Medien hat eine Schwelle überschritten. In kontrollierten Tests, die von Forschern am Media Lab des MIT durchgeführt wurden, identifizierten menschliche Bewerter Deepfake-Videos nur in 52 % der Fälle richtig – statistisch gesehen nicht von zufälligen Vermutungen zu unterscheiden. Die Auswirkungen auf Vertrauen, Sicherheit und Demokratie sind tiefgreifend, und die Technologie schreitet schneller voran als die Institutionen, die sie steuern sollen.

Dies ist kein zukünftiges Problem. Deepfake-Audio wurde bereits für Überweisungsbetrug eingesetzt, wobei Kriminelle die Stimmen von Führungskräften klonten, um betrügerische Banküberweisungen zu autorisieren. Deepfake-Videos wurden in mindestens einem Dutzend Ländern in politischen Desinformationskampagnen verwendet. Synthetische Bilder wurden verwendet, um nicht einvernehmliche, intime Bilder in großem Maßstab zu erstellen. Die Schäden sind real, sie passieren jetzt und sie nehmen zu.

Der Stand der Deepfake-Technologie

Die neueste Generation von Videosynthesemodellen kann mit Hardware der Verbraucherklasse in Echtzeit fotorealistische Videos von jeder Person erzeugen, die etwas sagt. Die rechnerische Hürde, die zuvor die Erstellung von Deepfakes auf gut ausgestattete Akteure beschränkte, ist praktisch verschwunden. Auf GitHub verfügbare Open-Source-Modelle können auf einem Standard-Gaming-PC in wenigen Minuten überzeugende Ergebnisse liefern.

Die Verbesserung war dramatisch und schnell. Vor drei Jahren waren Deepfakes mit geschultem Auge erkennbar – subtile Anzeichen in der Bewegung von Haaren, inkonsistente Beleuchtung, das unheimliche Tal von Gesichtern, die nicht ganz stimmten. Vor zwei Jahren konnten sie von automatisierten Werkzeugen mit hoher Zuverlässigkeit erkannt werden. Heutzutage erzeugen die besten Modelle Ergebnisse, die weder Menschen noch automatisierte Werkzeuge zuverlässig von Originalaufnahmen unterscheiden können.

Der wichtigste technische Fortschritt war die Verlagerung von GAN-basierten (Generative Adversarial Network)-Ansätzen zu Diffusionsmodellen. GANs erzeugten charakteristische Artefakte – sich wiederholende Muster, unnatürliche Texturen – die Erkennungstools zu erkennen lernten. Diffusionsmodelle erzeugen grundlegend unterschiedliche Artefakte, die schwerer zu erkennen sind, und der Trainingsprozess ist stabiler, was es einfacher macht, konsistent qualitativ hochwertige Ergebnisse zu erzielen.

Entdeckung: Eine verlorene Schlacht?

Erkennungstools hatten Mühe, Schritt zu halten. Die grundlegende Herausforderung besteht darin, dass auf aktuellen Deepfakes trainierte Erkennungsmodelle mit der Verbesserung der Generierungstechnologie obsolet werden. „Es ist eine klassische kontradiktorische Dynamik“, sagt Dr. Hany Farid von der UC Berkeley, ein Pionier der digitalen Forensik. „Jedes Mal, wenn wir einen besseren Detektor bauen, passen sich die Generatoren an. Die Generatoren haben einen strukturellen Vorteil: Sie müssen den Detektor nur einmal täuschen, während der Detektor jede Fälschung erkennen muss.“

Die vielversprechendsten Ansätze konzentrieren sich nicht auf visuelle Artefakte, die zunehmend nicht mehr wahrnehmbar sind, sondern auf physiologische Signale. Subtile Variationen der Hautfarbe, die durch den Blutfluss verursacht werden (rPPG-Signale), lassen sich nur schwer überzeugend synthetisieren, und Tools, die diese Signale analysieren, zeigen bei aktuellen Deepfakes Erkennungsraten von über 90 %. Dieser Vorteil ist jedoch wahrscheinlich nur vorübergehend: Wenn Forscher ihre Methoden veröffentlichen, werden Deepfake-Generatoren darauf trainiert, diese Signale zu reproduzieren.

Ein nachhaltigerer Ansatz könnte eine forensische Analyse der Komprimierungs- und Kodierungseigenschaften von Videodateien sein. Selbst wenn Deepfakes optisch perfekt sind, weisen sie oft charakteristische Muster in der Interaktion mit Video-Codecs auf – Muster, die schwer zu beseitigen sind, ohne den spezifischen Codec zu verstehen, auf den sie abzielen. Dieser Ansatz ist weniger intuitiv als die visuelle Analyse, aber möglicherweise robuster.

Das Geschäft der Deepfake-Erkennung

Rund um die Deepfake-Erkennung ist ein bedeutendes kommerzielles Ökosystem entstanden. Unternehmen wie Reality Defender, Sensity AI und Pindrop bieten Unternehmenserkennungsdienste für Finanzinstitute, Medienunternehmen und Regierungsbehörden an. Der Markt wächst schnell, aber die Produkte sind unvollständig und die Wettbewerbsdynamik ist herausfordernd – Erkennungsunternehmen befinden sich in einem ständigen Wettlauf mit der Erzeugungstechnologie, die schneller voranschreitet und mehr Investitionen anzieht.

Die anspruchsvollsten Unternehmensbereitstellungen kombinieren mehrere Erkennungsansätze – visuelle Analyse, physiologische Signale, Metadatenforensik und Verhaltensanalyse – und behandeln die Ausgabe als Risikobewertung und nicht als binäre Bestimmung. Ein Video, das bei mehreren unabhängigen Erkennungsmethoden eine hohe Punktzahl erzielt, wird als verdächtig behandelt und zur menschlichen Überprüfung markiert, anstatt automatisch abgelehnt zu werden. Dieser probabilistische Ansatz geht ehrlicher mit den Grenzen der aktuellen Technologie um.

Richtlinien- und Plattformantworten

Große Plattformen implementieren Standards für die Herkunft von Inhalten. Der C2PA-Standard (Coalition for Content Provenance and Authenticity), der jetzt von Adobe, Microsoft, Google und großen Kameraherstellern unterstützt wird, bettet kryptografische Metadaten in Mediendateien ein, die eine Überprüfung ihrer Herkunft und ihres Bearbeitungsverlaufs ermöglichen. Wenn ein Foto mit einer C2PA-kompatiblen Kamera aufgenommen wird, signiert das Gerät das Bild mit einem kryptografischen Schlüssel. Alle nachfolgenden Bearbeitungen werden in der Provenienzkette erfasst. Ein Betrachter kann nicht nur überprüfen, ob das Bild nicht manipuliert wurde, sondern auch genau, welche Änderungen von wem vorgenommen wurden.

Der C2PA-Ansatz ist technisch solide, steht jedoch vor erheblichen Herausforderungen bei der Einführung. Es erfordert die gleichzeitige Zusammenarbeit von Geräteherstellern, Softwareentwicklern und Plattformen. Es funktioniert nur für Inhalte, die auf kompatiblen Geräten erstellt wurden – die überwiegende Mehrheit der vorhandenen Inhalte verfügt über keine Herkunftsdaten. Und es trägt nichts dazu bei, Deepfakes zu bekämpfen, die von Grund auf erstellt wurden, anstatt aus echtem Filmmaterial manipuliert zu werden.

Die gesetzgeberischen Reaktionen waren fragmentiert. Das EU-KI-Gesetz enthält Bestimmungen, die die Offenlegung von KI-generierten Inhalten vorschreiben, die Durchsetzungsmechanismen sind jedoch schwach und die Definition von „KI-generiert“ ist umstritten. In den Vereinigten Staaten gibt es einen Flickenteppich staatlicher Gesetze, die sich mit bestimmten Schäden befassen – nicht einvernehmliche intime Bilder, Deepfakes im Zusammenhang mit Wahlen –, aber es gibt keinen umfassenden föderalen Rahmen. Mehrere Länder haben bestimmte Kategorien von Deepfake-Inhalten völlig verboten, eine Durchsetzung gegen Offshore-Akteure ist jedoch praktisch unmöglich.

Die demokratische Bedrohung

Die besorgniserregendste langfristige Auswirkung der Deepfake-Technologie ist nicht ein konkreter Schaden, sondern die Erosion des epistemischen Vertrauens – die gemeinsame Annahme, dass Video- und Audioaufzeichnungen verlässliche Beweise dafür sind, was tatsächlich passiert ist. Sobald diese Annahme verschwunden ist, kann sie nicht einfach wiederhergestellt werden. Jeder echte Beweis wird leugnbar: „Das ist ein Deepfake.“ Jede echte Aussage wird fragwürdig: „Das ist KI-generiert.“

Diese „Lügnerdividende“ – die Fähigkeit, echte Beweise durch den Hinweis auf die Existenz von Deepfakes zu leugnen – kann letztendlich schädlicher sein als die Deepfakes selbst. Es schafft ein Umfeld, in dem die Wahrheit nicht aufgrund ihrer Begründetheit, sondern aufgrund der technischen Raffinesse der beteiligten Parteien bestritten wird. Gut ausgestattete Akteure, die sich Deepfake-Erkennungsdienste leisten können, haben einen Vorteil gegenüber normalen Bürgern, die sich dies nicht leisten können.

Was Sie tun können

Für Einzelpersonen und Organisationen ist die praktikabelste Verteidigung verfahrenstechnischer Natur: Richten Sie Out-of-Band-Verifizierungsprotokolle für Kommunikation mit hohem Risiko ein, behandeln Sie unerwartete Videoanrufe mit der Aufforderung zu sensiblen Aktionen mit Skepsis und implementieren Sie eine Multi-Faktor-Authentifizierung für Finanztransaktionen. Die besondere Gefahr des „CEO-Betrugs“, bei dem Kriminelle geklonte Audio- oder Videoaufnahmen von Führungskräften verwenden, um betrügerische Überweisungen zu genehmigen, kann weitgehend gemildert werden, indem für alle per Video oder Audio erhaltenen Finanzanweisungen ein sekundärer Verifizierungskanal (ein Anruf bei einer bekannten Nummer, ein im Voraus festgelegtes Codewort) vorgeschrieben wird.

Für Medienorganisationen und Einzelpersonen, die Inhalte veröffentlichen, lohnt sich die Investition in die Einführung von C2PA-kompatiblen Tools für die Erstellung und Verbreitung von Inhalten. Es wird Deepfakes nicht verhindern, aber es bietet eine überprüfbare Herkunftskette für echte Inhalte – was immer wertvoller wird, je mehr sich die Standardannahme in Richtung Skepsis verschiebt.

Quellen und weiterführende Literatur