Kann eine Kennzeichnung das Deepfake-Problem des Internets tatsächlich lösen?

Wann haben Sie das letzte Mal ein Foto online gesehen und waren sich zu 100 % sicher, dass es echt ist? Seit diesem Sonntag setzt die Europäische Union darauf, dass eine einfache Kennzeichnung dieses verlorene Vertrauen wiederherstellen kann. Das EU-KI-Gesetz (AI Act) verpflichtet Tech-Unternehmen nun dazu, Deepfakes und KI-generierte Inhalte klar zu identifizieren. Das bedeutet, dass die digitale Welt ein neues Regelwerk für Transparenz erhalten hat, aber der Weg von der Gesetzgebung zu einem sauberen Social-Media-Feed ist voller technischer Tücken.

Das unsichtbare Wasserzeichen in Ihrem digitalen Leben

Stellen Sie sich die KI als einen unermüdlichen Praktikanten vor, der in der Lage ist, stündlich Millionen hochwertiger Fälschungen zu erstellen. Bisher arbeitete dieser Praktikant in völliger Anonymität. Die neuen EU-Regeln ändern dies, indem sie die Unternehmen hinter der Software zwingen, eine Papierspur zu hinterlassen. Wenn ein System wie ChatGPT oder Claude ein Medienstück erstellt, muss dieses Medium eine Markierung aufweisen, die Software lesen und Menschen sehen können.

Diese Anforderung gilt sowohl für die Ersteller der Tools als auch für professionelle Anwender. Wenn eine Marketingfirma ein KI-generiertes Modell für eine Bekleidungsanzeige verwendet, schreibt das Gesetz vor, dass sie dies offenlegen muss. Dies ist ein systemischer Wandel in der Art und Weise, wie wir Medien konsumieren. Ziel ist es sicherzustellen, dass Sie, wenn Sie ein Video eines Staatschefs oder eines Prominenten sehen, eine greifbare Möglichkeit haben zu überprüfen, ob es tatsächlich passiert ist oder ob es das Ergebnis eines Prompts war. Dieses digitale Fingerprinting ist der erste echte Versuch, synthetische Medien an die Leine zu legen, bevor sie die Realität vollständig ersetzen.

Wie der unermüdliche Praktikant seine Arbeit signiert

Es gibt zwei Hauptwege, wie ein Unternehmen einen Deepfake kennzeichnen kann. Der erste ist für Sie sichtbar: ein Text-Tag oder ein Logo in der Ecke eines Videos. Der zweite ist für das Auge unsichtbar, aber für Computer lesbar. Dies sind Metadaten. Metadaten sind wie der digitale Aufkleber auf der Rückseite eines physischen Fotos, der Ihnen sagt, wann und wo es aufgenommen wurde.

Viele Branchenführer verwenden einen Standard namens C2PA. Dies ist ein technisches Framework, das eine Historie an eine Datei anhängt. Wenn eine KI ein Bild erzeugt, bettet die Software eine kryptografische Signatur in den Code der Datei ein. Wenn dieses Bild auf eine Plattform wie Instagram oder X hochgeladen wird, liest die Plattform die Signatur und zeigt ein Label an. Dieser Prozess ist transparent und arbeitet im Hintergrund, um Kontext zu liefern, ohne das Nutzererlebnis zu beeinträchtigen. Metadaten lassen sich jedoch leicht entfernen. Wenn Sie einen Screenshot von einem KI-Bild machen, gehen die Metadaten oft verloren. Diese Realität macht die unsichtbare Signatur zu einer fragilen Verteidigung gegen böswillige Akteure.

Warum Metadaten fragiler sind, als sie aussehen

Digitale Spuren sind nicht dauerhaft. Wenn Sie ein hochauflösendes Foto in eine Messaging-App hochladen, komprimiert die App die Datei oft, um Platz zu sparen. Dieser Komprimierungsprozess kann die Metadaten-Labels löschen, die das EU-KI-Gesetz vorschreibt. Für den Durchschnittsnutzer bedeutet dies, dass ein gekennzeichnetes Bild aus einer seriösen Quelle allein durch das Teilen in einem Gruppenchat zu einem nicht gekennzeichneten Deepfake werden könnte.

Wasserzeichen sind die widerstandsfähigere Alternative. Im Gegensatz zu Metadaten, die ein separater Codeblock sind, wird ein Wasserzeichen in die tatsächlichen Pixel des Bildes oder die Frequenzen einer Audiodatei „eingebacken“. Einige Unternehmen verwenden „Steganografie“, um diese Markierungen zu verbergen. Dabei handelt es sich um Muster, die für Menschen unsichtbar, aber für Scanner erkennbar sind. Selbst wenn Sie das Foto zuschneiden oder die Farben ändern, bleibt die Markierung erhalten. Das Problem ist, dass es keinen einheitlichen globalen Standard für diese Wasserzeichen gibt. Ein von Google hergestellter Scanner erkennt möglicherweise kein Wasserzeichen, das von einem Open-Source-Modell erstellt wurde. Dieser Mangel an einer gemeinsamen Sprache schafft ein undurchsichtiges Umfeld, in dem die Regeln schwer durchzusetzen sind.

Der Unterschied zwischen einem Witz und einer Waffe

Die EU versucht nicht, Kreativität zu verbieten. Das Gesetz schafft eine klare Unterscheidung zwischen harmlosem Satire und gefährlicher Manipulation. Als ein KI-generiertes Bild von Papst Franziskus in einer Designer-Daunenjacke viral ging, war es ein Witz. Die meisten Menschen verstanden, dass es eine Fälschung war, weil es absurd war. Unter den neuen Regeln benötigen solche künstlerischen oder satirischen Inhalte im Allgemeinen nicht das gleiche Maß an strenger Kennzeichnung.

Umgekehrt sind die Regeln sehr streng für Inhalte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse täuschen könnten. Wir haben bereits gesehen, welchen Schaden dies anrichten kann. Im Jahr 2022 tauchte während der Invasion der Ukraine online ein Deepfake-Video von Präsident Selenskyj auf, in dem er seine Truppen zur Kapitulation aufforderte. Obwohl es schnell entlarvt wurde, zeigte es, wie KI ein Werkzeug des Krieges sein kann. Ebenso haben explizite KI-generierte Bilder von Prominenten wie Taylor Swift gezeigt, wie diese Technologie für Belästigungen eingesetzt werden kann. Das EU-KI-Gesetz zielt auf diese schädlichen Nutzungen ab, indem es professionelle Anwender verpflichtet, ehrlich über die Herkunft ihrer Inhalte zu sein. Unterm Strich zählt der Kontext des Bildes genauso viel wie die Technologie, mit der es erstellt wurde.

Was das für Ihr tägliches Scrollen bedeutet

Für den Verbraucher wird dieses Gesetz zu mehr Labels und Warnungen in Ihren Social-Media-Feeds führen. Sie könnten ein kleines „KI-generiertes“ Tag neben einer Nachricht oder einem Profilbild sehen. Dies soll Ihnen helfen, einen mentalen Filter aufzubauen. Im Großen und Ganzen geht es hier um digitale Kompetenz. Wir bewegen uns weg von einer Ära, in der „Sehen gleich Glauben“ galt, hin zu einer Ära, in der alles verdächtig ist, bis es verifiziert wurde.

Praktisch gesehen sollten Sie nicht erwarten, dass jeder Deepfake über Nacht verschwindet. Die EU kann nur Unternehmen regulieren, die innerhalb ihrer Grenzen Geschäfte machen. Ein anonymer Ersteller in einem Land außerhalb der EU kann immer noch nicht gekennzeichnete Deepfakes auf globalen Plattformen posten. Darüber hinaus sind Open-Source-KI-Modelle eine erhebliche Lücke. Dies sind Programme, die jeder herunterladen und auf seinem eigenen Computer ausführen kann. Da diese Modelle dezentralisiert sind, hat die EU Schwierigkeiten, einzelne Nutzer zur Aufnahme von Labels zu zwingen. Das Gesetz ist eine Leitplanke für den Mainstream, aber die Ränder des Internets werden unbeständig bleiben.

Ein vielschichtiger Ansatz für die digitale Realität

Experten und die Europäische Kommission sind sich einig, dass keine einzelne Technologie ein Allheilmittel ist. Eine Kennzeichnung ist nur eine Verteidigungsebene. Um den digitalen Raum wirklich zu schützen, benötigen wir eine Kombination aus Metadaten, Wasserzeichen und öffentlicher Bildung. KI-Unternehmen, Social-Media-Plattformen und Faktenprüfer müssen zusammenarbeiten, um sicherzustellen, dass diese Labels tatsächlich an den Inhalten haften bleiben, während sie durch das Netz wandern.

Letztendlich hängt der Erfolg des EU-KI-Gesetzes davon ab, ob Tech-Unternehmen der Sicherheit Vorrang vor der Geschwindigkeit einräumen. Wenn Plattformen sich weigern, in die Scanner zu investieren, die zum Lesen von KI-Wasserzeichen erforderlich sind, werden die Labels nutzlos sein. Wenn die Wasserzeichen zu leicht zu entfernen sind, wird das Gesetz ein Papiertiger sein. Aus Sicht der Verbraucher ist die beste Strategie, gegenüber allen sensationellen Inhalten, denen eine klare Herkunft fehlt, skeptisch zu bleiben. Das Internet ist kein Spiegel der Realität mehr. Es ist eine kuratierte Galerie, in der einige der Kunstwerke von Maschinen gemalt wurden. Die EU möchte nur sicherstellen, dass diese Maschinen ihren Namen unten auf der Leinwand unterschreiben.

Was das für Sie bedeutet

• Achten Sie auf Labels: Suchen Sie nach „KI-generiert“-Tags auf Nachrichtenseiten und in sozialen Medien, da diese nun für viele in Europa tätige Plattformen obligatorisch sind.
• Verstehen Sie die Grenzen: Denken Sie daran, dass Screenshots und komprimierte Dateien oft ihre KI-Labels verlieren, sodass ein nicht gekennzeichnetes Bild nicht garantiert echt ist.
• Hinterfragen Sie virale Inhalte: Seien Sie besonders vorsichtig bei Videos von Personen des öffentlichen Lebens, die untypisch erscheinen, da diese primäre Ziele für Deepfake-Ersteller sind.
• Erwarten Sie mehr Reibung: Sie werden wahrscheinlich mehr Offenlegungen und Warnungen in Ihren Apps sehen, während sich die Unternehmen an diese neuen Transparenzanforderungen anpassen.

Quellen:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report