Une étiquette peut-elle réellement résoudre le problème des deepfakes sur Internet ?

À quand remonte la dernière fois où vous avez regardé une photo en ligne en étant sûr à 100 % qu'elle était réelle ? À partir de ce dimanche, l'Union européenne parie qu'une simple étiquette peut restaurer cette confiance perdue. La loi sur l'IA de l'UE (EU AI Act) exige désormais que les entreprises technologiques identifient clairement les deepfakes et les contenus générés par l'IA. Cela signifie que le monde numérique vient de se doter d'un nouvel ensemble de règles de transparence, mais le chemin menant de la législation à un flux de médias sociaux propre est semé de pièges techniques.

Le filigrane invisible sur votre vie numérique

Considérez l'IA comme un stagiaire infatigable capable de générer des millions de faux de haute qualité chaque heure. Jusqu'à présent, ce stagiaire travaillait dans l'anonymat total. Les nouvelles règles de l'UE changent la donne en forçant les entreprises derrière ces logiciels à laisser une trace. Si un système comme ChatGPT ou Claude crée un média, celui-ci doit comporter un marqueur lisible par les logiciels et visible par les humains.

Cette exigence s'applique à la fois aux créateurs d'outils et aux utilisateurs professionnels. Si une agence de marketing utilise un modèle généré par IA pour une publicité de vêtements, la loi stipule qu'elle doit le divulguer. Il s'agit d'un changement systémique dans notre façon de consommer les médias. L'objectif est de s'assurer que lorsque vous voyez une vidéo d'un dirigeant mondial ou d'une célébrité, vous disposez d'un moyen tangible de vérifier si l'événement a réellement eu lieu ou s'il est le résultat d'une commande (prompt). Ce marquage numérique est la première tentative réelle de mettre une laisse aux médias synthétiques avant qu'ils ne remplacent entièrement la réalité.

Comment le stagiaire infatigable signe son travail

Il existe deux manières principales pour une entreprise d'étiqueter un deepfake. La première vous est visible : un tag textuel ou un logo dans le coin d'une vidéo. La seconde est invisible à l'œil nu mais lisible par les ordinateurs. Il s'agit des métadonnées. Les métadonnées sont comme l'autocollant numérique au dos d'une photo physique qui vous indique quand et où elle a été prise.

De nombreux leaders de l'industrie utilisent une norme appelée C2PA. Il s'agit d'un cadre technique qui attache un historique à un fichier. Lorsqu'une IA génère une image, le logiciel intègre une signature cryptographique dans le code du fichier. Lorsque cette image est téléchargée sur une plateforme comme Instagram ou X, la plateforme lit la signature et affiche une étiquette. Ce processus est transparent et fonctionne en coulisses pour fournir du contexte sans gâcher l'expérience utilisateur. Cependant, les métadonnées sont faciles à supprimer. Si vous prenez une capture d'écran d'une image générée par IA, les métadonnées sont souvent perdues. Cette réalité fait de la signature invisible une défense fragile contre les acteurs malveillants déterminés.

Pourquoi les métadonnées sont plus fragiles qu'il n'y paraît

Les traces numériques ne sont pas permanentes. Lorsque vous téléchargez une photo haute résolution sur une application de messagerie, l'application compresse souvent le fichier pour gagner de l'espace. Ce processus de compression peut effacer les étiquettes de métadonnées requises par la loi sur l'IA de l'UE. Pour l'utilisateur moyen, cela signifie qu'une image étiquetée provenant d'une source fiable pourrait devenir un deepfake non étiqueté simplement en étant partagée dans une discussion de groupe.

Le filigranage (watermarking) est l'alternative la plus résiliente. Contrairement aux métadonnées, qui sont un bloc de code séparé, un filigrane est intégré dans les pixels mêmes de l'image ou les fréquences d'un fichier audio. Certaines entreprises utilisent la « stéganographie » pour cacher ces marques. Ce sont des motifs invisibles pour les humains mais détectables par des scanners. Même si vous recadrez la photo ou changez les couleurs, la marque subsiste. Le problème est qu'il n'existe pas de norme mondiale unique pour ces filigranes. Un scanner fabriqué par Google pourrait ne pas reconnaître un filigrane créé par un modèle open-source. Ce manque de langage commun crée un environnement opaque où les règles sont difficiles à appliquer.

La différence entre une blague et une arme

L'UE n'essaie pas d'interdire la créativité. La loi établit une distinction claire entre la satire inoffensive et la manipulation dangereuse. Lorsqu'une image générée par IA du Pape François portant une doudoune de créateur est devenue virale, c'était une blague. La plupart des gens ont compris que c'était faux parce que c'était absurde. Selon les nouvelles règles, un tel contenu artistique ou satirique n'a généralement pas besoin du même niveau d'étiquetage strict.

À l'inverse, les règles sont très strictes pour les contenus susceptibles de tromper le public sur des questions d'intérêt général. Nous avons déjà vu les dégâts que cela peut causer. En 2022, une vidéo deepfake du président Zelensky demandant à ses troupes de se rendre est apparue en ligne pendant l'invasion de l'Ukraine. Bien qu'elle ait été rapidement démentie, elle a montré comment l'IA peut être un outil de guerre. De même, des images explicites générées par IA de célébrités comme Taylor Swift ont montré comment cette technologie peut être utilisée pour le harcèlement. La loi sur l'IA de l'UE cible ces utilisations malveillantes en exigeant des utilisateurs professionnels qu'ils soient honnêtes sur l'origine de leur contenu. L'essentiel est que le contexte de l'image compte autant que la technologie utilisée pour la créer.

Ce que cela signifie pour votre défilement quotidien

Pour le consommateur, cette loi se traduira par davantage d'étiquettes et d'avertissements sur vos flux de médias sociaux. Vous pourriez voir un petit tag « Généré par IA » à côté d'un article d'actualité ou d'une photo de profil. Cela est destiné à vous aider à construire un filtre mental. À plus grande échelle, il s'agit de littératie numérique. Nous quittons une ère où « voir, c'est croire » pour une ère où tout est suspect jusqu'à vérification.

D'un point de vue pratique, vous ne devez pas vous attendre à ce que chaque deepfake disparaisse du jour au lendemain. L'UE ne peut réglementer que les entreprises qui exercent des activités à l'intérieur de ses frontières. Un créateur anonyme dans un pays hors UE peut toujours publier des deepfakes non étiquetés sur des plateformes mondiales. De plus, les modèles d'IA open-source constituent une faille importante. Ce sont des programmes que n'importe qui peut télécharger et exécuter sur son propre ordinateur. Parce que ces modèles sont décentralisés, l'UE a du mal à forcer les utilisateurs individuels à inclure des étiquettes. La loi est un garde-fou pour le courant dominant, mais les marges d'Internet resteront volatiles.

Une approche multicouche de la réalité numérique

Les experts et la Commission européenne s'accordent à dire qu'aucune technologie unique n'est une solution miracle. Une étiquette n'est qu'une couche de défense. Pour véritablement protéger l'espace numérique, nous avons besoin d'une combinaison de métadonnées, de filigranage et d'éducation du public. Les entreprises d'IA, les plateformes de médias sociaux et les vérificateurs de faits doivent collaborer pour garantir que ces étiquettes restent attachées au contenu lors de sa circulation sur le web.

En fin de compte, le succès de la loi sur l'IA de l'UE dépend de la priorité que les entreprises technologiques accorderont à la sécurité par rapport à la rapidité. Si les plateformes refusent d'investir dans les scanners nécessaires pour lire les filigranes d'IA, les étiquettes seront inutiles. Si les filigranes sont trop faciles à supprimer, la loi sera un tigre de papier. Du point de vue du consommateur, la meilleure stratégie consiste à rester sceptique face à tout contenu sensationnel manquant d'une origine claire. Internet n'est plus un miroir de la réalité. C'est une galerie organisée où une partie de l'art est peinte par des machines. L'UE veut simplement s'assurer que ces machines signent leur nom au bas de la toile.

Ce que cela signifie pour vous

• Vérifiez les étiquettes : Recherchez les tags « Généré par IA » sur les sites d'information et les médias sociaux, car ils sont désormais obligatoires pour de nombreuses plateformes opérant en Europe.
• Comprenez les limites : N'oubliez pas que les captures d'écran et les fichiers compressés perdent souvent leurs étiquettes d'IA, donc une image non étiquetée n'est pas garantie d'être réelle.
• Questionnez le contenu viral : Soyez particulièrement prudent avec les vidéos de personnalités publiques qui semblent agir de manière inhabituelle, car ce sont des cibles privilégiées pour les créateurs de deepfakes.
• Attendez-vous à plus de friction : Vous verrez probablement plus de divulgations et d'avertissements dans vos applications à mesure que les entreprises s'adapteront à ces nouvelles exigences de transparence.

Sources :

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report