AI Act : comment l’article 50 impose le marquage des contenus générés par IA

Anthony LevelCSO, Label4.aiRégulation11 min de lecture

Depuis le 2 août 2026, une nouvelle obligation de transparence s’applique aux fournisseurs de systèmes d’intelligence artificielle générative accessibles dans l’Union européenne.

Elle se trouve à l’article 50(2) de l’AI Act (Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (règlement sur l’intelligence artificielle, publié au JOUE le 12 juillet 2024.

Son principe peut sembler simple : lorsqu’un système d’IA génère ou manipule un texte, une image, une vidéo ou un contenu audio, ce contenu doit pouvoir être identifié techniquement comme ayant été généré ou manipulé par une IA.

Le dispositif légal est destiné à permettre à chacun d’identifier la nature des contenus afin de lutter contre la désinformation, la fraude, l’usurpation d’identité, et plus généralement pouvoir savoir si le contenu est authentique ou fictif.

Mais derrière cette obligation relativement courte se cache une architecture technique beaucoup plus ambitieuse.

Métadonnées signées, watermark invisible, détecteur accessible, robustesse aux transformations, interopérabilité entre fournisseurs : le Code of Practice on Transparency of AI-Generated Content, publié par la Commission européenne en juin 2026, précise la manière dont cette transparence peut être mise en œuvre.

Et le principe qui se dégage du Code est clair : la transparence des contenus générés par IA ne peut pas reposer sur une seule technologie.

Ce que prévoit exactement l’article 50(2) de l’AI Act

L’article 50(2) concerne les fournisseurs de systèmes d’IA, y compris les systèmes d’IA à usage général, capables de générer des contenus synthétiques sous quatre grandes modalités :

texte, image, audio et vidéo.

Ils doivent s’assurer que les contenus produits par leurs systèmes sont :

  • marqués dans un format lisible par machine ;

    détectables comme ayant été artificiellement générés ou manipulés.

    Le règlement ajoute quatre caractéristiques essentielles.

    Les solutions techniques utilisées doivent être, dans la mesure où cela est techniquement possible, effectives, interopérables, robustes et fiables, en tenant compte notamment des spécificités de chaque type de contenu, des limites techniques, du coût de mise en œuvre et de l’état de l’art.

    Le considérant 133 de l’AI ACT donne déjà quelques exemples de technologies susceptibles d’être utilisées : watermark, métadonnées, mécanismes cryptographiques de provenance et d’authenticité, logging ou fingerprinting.

    L’AI Act fixe donc essentiellement une obligation de nature technologique.

    Il ne dit pas : « utilisez tel standard de métadonnées » ou « utilisez tel algorithme de watermarking ».

    C’est là qu’intervient le Code of Practice.

    Du principe juridique à l’architecture technique

    Le Code de bonnes pratiques sur la transparence des contenus générés par IA a été publié dans sa version finale le 10 juin 2026, à l’issue d’un processus coordonné par l’AI Office et associant fournisseurs d’IA, entreprises technologiques, chercheurs, représentants de la société civile et autorités publiques.

    Label4.ai a participé dès l’origine activement aux travaux consacrés aux techniques de marquage et de détection, et participe depuis septembre 2026 à la Task Force coordonnée par l’AI Office pour faire progresser l’état de l’art des techniques de marquage et des mécanismes de détection.

    Le Code est juridiquement distinct de l’AI Act : l’adhésion est volontaire. Le 8 juillet 2026, la Commission européenne a toutefois conclu qu’il constituait un moyen adéquat de faciliter et de démontrer la conformité aux obligations de l’article 50 ; cette appréciation a également été confirmée par le Comité européen de l’IA (AI Board).

    Pour les fournisseurs de systèmes d’IA générative, le Code organise la conformité autour de plusieurs briques complémentaires.

    La plus importante est le marquage multicouche.

    Première obligation : deux couches de marquage complémentaires

    Pourquoi deux technologies ?

    Parce qu’elles n’ont pas les mêmes qualités ni les mêmes faiblesses.

    Une métadonnée peut fournir des informations riches et cryptographiquement vérifiables sur la provenance d’un fichier. Mais elle peut être séparée du contenu, notamment lors de certaines transformations ou de sa diffusion.

    Un watermark invisible est au contraire intégré au contenu lui-même et peut survivre à de nombreuses transformations. Mais il transporte généralement moins d’informations et sa détection dépend de la technique utilisée.

    Le Code part donc du constat qu’en l’état actuel de la technique, aucune méthode ne permet à elle seule de satisfaire suffisamment les exigences d’efficacité, de fiabilité, de robustesse et d’interopérabilité pour les contenus susceptibles de circuler en ligne.

    Il prévoit par conséquent une approche comprenant au moins deux couches de marquage lisibles par machine : des métadonnées signées numériquement et un watermark imperceptible.

    C’est la logique représentée dans notre schéma d’illustration :

    Metadata + Watermark.

    Deux technologies différentes, pour un même objectif : conserver une information permettant d’identifier l’origine artificielle du contenu.

    Première couche : des métadonnées sécurisées et signées

    Lorsque le format du contenu permet d’attacher des métadonnées, par exemple une image, une vidéo, un fichier audio ou un texte conteneurisé, celles-ci doivent indiquer si le contenu a été généré ou manipulé par IA.

    Mais inscrire simplement AI generated = true dans un fichier ne suffit évidemment pas.

    Le Code prévoit que ces informations soient signées numériquement et horodatées, lorsque l’information temporelle est disponible, de manière sécurisée et permettant de mettre en évidence une altération.

    La gestion des certificats de signature et la confidentialité des clés privées doivent également être sécurisées.

    Cette première couche remplit notamment une fonction de provenance.

    Elle peut permettre de rattacher un contenu à son origine technique et d’y associer des informations supplémentaires.

    Mais elle présente une faiblesse structurelle :

    la métadonnée voyage avec le fichier, mais elle n’est pas dans le contenu.

    Selon les outils et les plateformes utilisés, des métadonnées peuvent disparaître lors d’un export, d’une conversion, d’une copie écran ou d’une republication.

    D’où la nécessité d’une seconde couche.

    Deuxième couche : un watermark imperceptible intégré au contenu

    Le Code prévoit également l’intégration d’un watermark imperceptible.

    Cette fois, l’information n’est plus simplement attachée au fichier : elle est incorporée directement dans le contenu.

    Dans une image, elle peut être intégrée dans le signal visuel.

    Dans une vidéo, elle peut être répartie dans les frames.

    Dans un signal audio, elle peut être introduite dans le signal sonore.

    Dans le texte, les mécanismes peuvent notamment exploiter les choix statistiques réalisés lors de la génération.

    L’objectif est que le watermark soit difficile à séparer du contenu lui-même et constitue ainsi un mécanisme robuste complémentaire aux métadonnées signées.

    C’est une différence fondamentale.

    Une métadonnée apporte une information de provenance riche et structurée.

    Le watermark cherche à faire voyager cette information avec le contenu, y compris lorsque celui-ci subit certaines transformations.

    Les deux couches ne se remplacent donc pas, elles se complètent.

    Le véritable enjeu : la robustesse

    Mettre un watermark dans une image originale est relativement simple.

    Le retrouver après que cette image a circulé sur Internet l’est beaucoup moins.

    Une image peut être recadrée, compressée, redimensionnée ou capturée depuis un écran.

    Une vidéo peut être réencodée ou enregistrée depuis un autre écran.

    Un fichier audio peut changer de format, subir une compression, une modification de vitesse ou de tonalité.

    Un texte peut être paraphrasé ou partiellement modifié.

    Le Code demande donc que les solutions soient évaluées face aux transformations courantes, mais également face à des attaques visant spécifiquement le marquage.

    Parmi les transformations et attaques considérées figurent notamment le « cropping » (recadrage), la compression, le changement de résolution, la capture d’écran, le changement de format, le paraphrasage, encore les tentatives de suppression, de copie ou de modification du watermark.

    Cela change profondément la manière d’évaluer une technologie de marquage.

    La bonne question n’est pas simplement :

    « Le contenu est-il marqué à sa création ? »

    Mais :

    « Ce marquage peut-il encore être détecté après la vie réelle du contenu ? »

    C’est tout l’enjeu de la robustesse.

    Le marquage ne sert à rien sans détecteur

    Il existe ensuite une troisième brique essentielle.

    Si un contenu est marqué mais que personne ne dispose d’un moyen de lire ce marquage, la transparence reste théorique.

    Le Code prévoit donc la mise à disposition d’une solution permettant de détecter les marquages.

    Elle peut notamment prendre la forme d’une spécification publique permettant à des tiers de construire leur propre détecteur, d’un logiciel ou d’un service cloud accessible via API.

    La manière dont ce détecteur est mis à disposition constitue toutefois un enjeu de sécurité en soi. Un détecteur distribué localement ou dont le fonctionnement est trop largement exposé peut faciliter des attaques par essais successifs : un attaquant peut modifier progressivement un contenu, tester à chaque étape si le watermark reste détectable, puis optimiser ses transformations jusqu’à parvenir à supprimer ou affaiblir le marquage.

    À l’inverse, un détecteur opéré sous forme de service contrôlé permet de mettre en place des mécanismes de protection : authentification, limitation du nombre de requêtes, surveillance des usages ou détection de comportements anormaux, afin de réduire le risque que le détecteur soit utilisé comme « oracle » pour attaquer le watermark.

    L’enjeu est donc de concilier deux objectifs qui peuvent entrer en tension : rendre le marquage suffisamment vérifiable pour assurer la transparence, sans rendre sa suppression plus facile.

    Le résultat fourni doit permettre de comprendre si le contenu analysé comporte le marquage correspondant. Le Code demande également que les résultats soient présentés de manière claire et accessible et, lorsque cela est techniquement possible, qu’ils indiquent sur quel mécanisme repose la détection : métadonnées, watermark, analyse forensique ou autre technique.

    Cela introduit une dimension essentielle dans l’écosystème de transparence : le marquage doit être vérifiable, mais son mécanisme de vérification doit lui-même être conçu de manière sécurisée.

    Vers des détecteurs interopérables

    Mais une autre difficulté apparaît immédiatement.

    Que se passe-t-il si chaque fournisseur développe son propre watermark et son propre détecteur ?

    Un utilisateur souhaitant vérifier une image pourrait théoriquement devoir l’envoyer successivement à des dizaines de détecteurs différents : celui de Google, celui d’Adobe, celui d’Anthropic, de générateurs européens ou étrangers, etc.

    Ce modèle n’est évidemment pas scalable.

    Le Code prévoit donc une montée en puissance de l’interopérabilité entre les solutions de détection.

    Les fournisseurs développant leurs propres technologies doivent notamment travailler vers des mécanismes permettant de router les requêtes vers les détecteurs appropriés ou de permettre à des solutions partagées ou indépendantes des fournisseurs d’interroger les différents mécanismes.

    C’est notamment sur ce second modèle que se positionne Label4.ai. Au-delà de ses propres technologies de watermarking et de détection, Label4.ai développe une approche d’agrégateur de watermarks tiers, permettant d’interroger, à travers une interface unique, les mécanismes de détection proposés par différents fournisseurs.

    L’objectif est d’éviter qu’un utilisateur ait à identifier préalablement la technologie ayant servi à marquer un contenu, puis à interroger séparément chaque détecteur. Une même couche de détection peut ainsi servir de point d’entrée vers plusieurs technologies de watermarking, dans une logique d’interopérabilité indépendante des fournisseurs.

    Le Code fixe notamment l’échéance du 2 février 2027 pour la mise en œuvre d’une solution d’interopérabilité concernant l’accès aux mécanismes de détection des watermarks.

    À terme, l’objectif est donc de pouvoir interroger un écosystème de marquages sans nécessairement connaître à l’avance le fournisseur ayant généré le contenu.

    Et si le watermark a disparu ? La détection forensique

    Le Code prévoit enfin une couche supplémentaire, mais cette fois optionnelle : la détection forensique.

    La différence est importante.

    Un détecteur de watermark cherche une information qui a volontairement été introduite dans le contenu lors de sa génération.

    Une technologie forensique cherche au contraire à identifier les caractéristiques intrinsèques du contenu susceptibles d’indiquer qu’il a été généré ou manipulé par IA (présence de micros-signaux, bruits, artefacts, anomalies sémantiques, trahissant l’usage d’un modèle de diffusion). Par exemple un bruit mathématique laissé par un capteur photographique est différent du bruit mathématique laissé par un modèle de diffusion.

    Elle peut donc continuer à fournir une information lorsqu’aucun watermark n’est présent ou lorsque celui-ci a été supprimé.

    Le Code permet ainsi aux fournisseurs d’intégrer un mécanisme de détection forensique capable de détecter des contenus générés ou manipulés par leur système ou leur modèle sous-jacent dont le marquage aurait disparu.

    Cette couche n’est pas obligatoire, mais elle illustre parfaitement la logique générale du dispositif :ne pas faire dépendre la confiance d’un mécanisme technique unique.

    Effectif, fiable, robuste et interopérable

    Au-delà des technologies employées, le Code reprend et concrétise les quatre grandes qualités fixées par l’article 50(2).

    Effectif, d’abord : le dispositif doit réellement permettre d’informer sur l’origine artificielle du contenu et être utilisable dans des conditions opérationnelles.

    Fiable, ensuite : la détection doit être évaluée à travers des métriques pertinentes, notamment les taux de faux positifs, de faux négatifs et, lorsque cela s’applique, le taux d’erreur dans les informations décodées.

    Robuste : le marquage doit conserver des performances face aux transformations ordinaires et aux attaques adversariales.

    Interopérable : les mécanismes doivent pouvoir fonctionner à travers différents environnements technologiques, canaux de distribution et fournisseurs.

    Ce sont ces quatre critères, et non la simple présence nominale de métadonnées ou d’un watermark qui permettent de comprendre l’ambition technique de l’article 50.

    Le calendrier : l’obligation est désormais entrée en application

    Le calendrier doit enfin être distingué entre le texte réglementaire, le Code et la transition applicable à certains systèmes existants.

    Le Code final a été publié en juin 2026.

    Les obligations de transparence de l’article 50 sont entrées en application le 2 août 2026.

    Pour les systèmes déjà mis sur le marché avant cette date et relevant du régime transitoire applicable, l’échéance de mise en conformité intervient le 2 décembre 2026.

    Enfin, le Code prévoit une nouvelle étape le 2 février 2027 concernant l’interopérabilité des mécanismes de détection des watermarks.

    Nous sommes donc entrés dans la phase concrète de mise en œuvre.

    La transparence de l’IA devient une infrastructure technique

    L’article 50 marque une évolution importante dans la régulation de l’intelligence artificielle.

    La transparence ne consiste plus seulement à afficher un logo « AI generated » à côté d’une image.

    Elle doit pouvoir être portée par le contenu lui-même et vérifiée par une machine.

    Métadonnées signées pour documenter la provenance.

    Watermark imperceptible pour maintenir un marquage directement dans le contenu.

    Détecteurs pour permettre la vérification.

    Interopérabilité pour éviter la fragmentation de l’écosystème.

    Et, éventuellement, analyse forensique lorsque les mécanismes de marquage ne sont plus disponibles.

    C’est ce qu’illustre le schéma d’illustration : une technologie unique n’est pas suffisante.

    Le véritable enjeu est désormais de construire une architecture de confiance dans laquelle plusieurs couches indépendantes se complètent.

    Car un contenu généré par IA ne reste presque jamais dans son état d’origine.

    Il est téléchargé, compressé, recadré, réencodé, copié, publié et republié.

    La transparence ne doit donc pas seulement exister au moment de la génération. Elle doit être capable de voyager avec le contenu.

    Une question sur votre propre cas ? Parlons-en.