Im Januar 2026 kursierte 47 Minuten lang ein Fake-Video eines amtierenden Staatsoberhaupts, das eine Militäraktion ankündigte, bevor es endgültig entlarvt wurde. In diesem Zeitfenster bewegten sich die Märkte, diplomatische Telegramme wurden verschickt und Millionen von Menschen glaubten an etwas, das nie passierte. Das ist die Welt, in der wir jetzt leben – und die Instrumente, die das verhindern sollen, verlieren das Rennen.

Warum die Erkennung fehlschlägt

Die neueste Generation von Videosynthesemodellen – darunter Sora 3, Runway Gen-4 und mehrere Open-Source-Alternativen – erzeugen Videos, die jedes vorhandene Erkennungstool übertreffen. Das grundlegende Problem besteht darin, dass Erkennungswerkzeuge auf Artefakte aus Synthesemodellen früherer Generationen trainiert werden. Wenn sich die Synthese verbessert, verzögert sich die Erkennung um 6–12 Monate. Bis ein Erkennungsmodell auf die Artefakte der aktuellen Generation trainiert wird, sind die Synthesemodelle weiterentwickelt.

In einer im April 2026 vom Security and Privacy Research Lab der University of Washington veröffentlichten Studie wurden 14 kommerzielle und Open-Source-Deepfake-Erkennungstools anhand von Videos getestet, die von den fünf leistungsfähigsten aktuellen Synthesemodellen generiert wurden. Keines der Erkennungstools erreichte eine Genauigkeit von mehr als 65 % – und mehrere schnitten bei den neuesten Modellen schlechter als zufällig ab. Die Forscher kamen zu dem Schluss, dass die auf visuellen Artefakten basierende Erkennung im Vergleich zur aktuellen Synthesetechnologie „grundsätzlich unzureichend“ ist.

Der Provenienzansatz

Die vielversprechendste Lösung ist nicht die Entdeckung, sondern die Herkunft. Die Content Authenticity Initiative, unterstützt von Adobe, Microsoft, der BBC und über 2.000 Mitgliedsorganisationen, hat einen kryptografischen Signaturstandard namens C2PA entwickelt, der manipulationssichere Metadaten zum Zeitpunkt der Erfassung in Mediendateien einbettet. Kameras, Telefone und Aufnahmesoftware, die C2PA implementieren, schaffen eine ununterbrochene Überwachungskette von der Aufnahme bis zur Veröffentlichung.

Sony, Nikon und Leica haben C2PA-fähige Kameras ausgeliefert. Das iPhone 17 Pro von Apple implementiert C2PA für Fotos und Videos, die in seiner nativen Kamera-App aufgenommen wurden. Die New York Times, Reuters und die BBC haben ihre Content-Management-Systeme aktualisiert, um C2PA-Verifizierungsabzeichen auf authentifizierten Inhalten anzuzeigen.

Das Adoptionsproblem

C2PA ist technisch solide, die Einführung ist jedoch fragmentiert. Große Nachrichtenorganisationen haben es implementiert; Social-Media-Plattformen haben dies nicht getan. Meta, TikTok und X haben alle Pläne zur Unterstützung der C2PA-Verifizierung angekündigt, diese jedoch noch nicht in großem Umfang implementiert. Solange die Plattformen, auf denen die meisten Menschen Nachrichten konsumieren, keine C2PA-Verifizierung erfordern, kann der Standard sein Potenzial nicht ausschöpfen.

Es gibt auch eine grundlegende Lücke: C2PA kann überprüfen, ob ein Video zu einem bestimmten Zeitpunkt von einem bestimmten Gerät aufgenommen wurde, kann jedoch nicht überprüfen, ob die Person im Video die Person ist, die sie zu sein scheint. Ein echtes Video eines Schauspielers, der eine Drehbuchszene vorführt, würde die C2PA-Verifizierung bestehen. Der Standard befasst sich mit Fälschungen, nicht mit Identitätsdiebstahl.

Antworten der Gesetzgebung

Die Regierungen reagieren mit Gesetzen, wenn auch in sehr unterschiedlichem Tempo. Das EU-KI-Gesetz verlangt in bestimmten Kontexten die Offenlegung von KI-generierten Inhalten. Die kalifornischen Gesetze AB 602 und AB 730 verlangen die Offenlegung von KI-generierter politischer Werbung und synthetischen Medien, die echte Menschen in sexuellen Kontexten darstellen. Das australische Online-Sicherheitsgesetz wurde geändert, um nicht einvernehmliche Deepfake-Pornografie abzudecken. Doch die Durchsetzung ist lückenhaft und die bestehenden Gesetze haben eher reaktiven als präventiven Charakter.

Was Einzelpersonen tun können

Mangels verlässlicher technischer Lösungen ist Medienkompetenz die wichtigste Verteidigung. Behandeln Sie jedes überraschende Video einer Persönlichkeit des öffentlichen Lebens mit Skepsis, bis es von mehreren unabhängigen Quellen bestätigt wurde. Überprüfen Sie das Veröffentlichungsdatum und die Quelle. Suchen Sie nach C2PA-Verifizierungsausweisen, sofern vorhanden. Und denken Sie daran: Die gefährlichsten Deepfakes sind diejenigen, die bestätigen, was Sie bereits glauben – unsere Tendenz, bestätigende Informationen ohne Prüfung zu akzeptieren, ist die Schwachstelle, die Deepfakes am effektivsten ausnutzen.

Die Plattformverantwortung

Letztlich ist die Deepfake-Krise sowohl ein Problem der Plattform-Governance als auch ein technisches. Social-Media-Plattformen haben die Möglichkeit, eine C2PA-Verifizierung für politische Inhalte zu verlangen, KI-generierte Medien zu kennzeichnen und synthetische Inhalte zu entfernen, die sich als echte Menschen ausgeben. Das EU-Gesetz über digitale Dienste verlangt von großen Plattformen, Maßnahmen zur Risikominderung für systemische Risiken – einschließlich Desinformation – zu ergreifen, und die Europäische Kommission hat Durchsetzungsverfahren gegen Plattformen eingeleitet, die sich nicht daran gehalten haben. In Australien gibt der Online Safety Act dem eSafety Commissioner die Befugnis, von Plattformen die Entfernung schädlicher synthetischer Medien zu verlangen. Die Werkzeuge sind vorhanden; Die Frage ist, ob der politische Wille, sie zu nutzen, ausreicht.

Quellen und weiterführende Literatur