Anthropic se prépare à renforcer la traçabilité des contenus créés via son IA Claude. Pour répondre notamment aux nouvelles exigences européennes en matière de transparence, l’entreprise va intégrer des marqueurs invisibles et lisibles par les machines dans les textes générés par son IA. Les images et certains fichiers bénéficieront également de métadonnées permettant d’en retracer la provenance.
UN FILIGRANE INVISIBLE DANS LES TEXTES DE CLAUDE
Comment savoir si un texte a été généré par une intelligence artificielle ? Anthropic veut apporter une partie de la réponse en intégrant directement un filigrane imperceptible dans les textes produits par Claude. Selon une nouvelle page d’assistance publiée par l’entreprise, les textes générés embarqueront ainsi des marqueurs destinés à être détectés par des outils informatiques, sans modifier leur sens, leur qualité ou leur lisibilité. Puisque ce filigrane fait partie intégrante du texte, il accompagne celui-ci lorsqu’il est copié-collé ailleurs et peut subsister après certaines modifications.
Pour l’utilisateur, rien ne devrait donc être visible à l’écran. En revanche, des plateformes ou des outils compatibles pourront identifier la présence de ce marquage et déterminer qu’un modèle Claude est intervenu dans la génération du contenu. Anthropic reste pour le moment assez discrète sur la technologie employée pour le texte et sur la manière dont ce filigrane résistera aux modifications apportées après sa génération.
DES MÉTADONNÉES C2PA POUR LES IMAGES
La méthode sera différente pour les fichiers compatibles, et notamment les images. Anthropic prévoit cette fois d’utiliser C2PA (Coalition for Content Provenance and Authenticity), un standard ouvert de traçabilité déjà adopté par plusieurs acteurs du secteur, dont Adobe, Google et OpenAI.
Les fichiers concernés intégreront des métadonnées de provenance signées numériquement, permettant à un service compatible de vérifier leur origine et certaines informations liées à leur création. La présence de ces métadonnées signées indique qu’un fichier a été traité par Claude et permet également de détecter s’il a été altéré ou modifié par la suite. Le dispositif doit être appliqué mondialement aux modèles Claude compatibles et concernera les différents services de l’entreprise, parmi lesquels Claude, Claude Platform via API, Claude Code, Claude Cowork ou encore Claude Tag.
L’AI ACT EUROPÉEN EN LIGNE DE MIRE
Cette évolution intervient surtout avec l’entrée en application, le 2 août, de nouvelles obligations de l’AI Act européen concernant l’identification et la transparence des contenus générés par intelligence artificielle.
Anthropic ne va toutefois pas activer tous ces mécanismes immédiatement. Les produits d’IA déjà disponibles avant l’entrée en vigueur de ces dispositions disposent d’une période de transition de quatre mois.
Les futurs modèles Claude devraient ainsi intégrer le marquage dès leur lancement, tandis qu’Anthropic travaille encore à son déploiement sur les modèles actuellement disponibles.
UN DÉTECTEUR D’IA ? PAS TOUT À FAIT
Le système pourrait constituer une avancée intéressante face aux limites des actuels détecteurs d’IA, dont le fonctionnement repose généralement sur l’analyse statistique d’un texte afin d’estimer la probabilité qu’il ait été produit par un modèle.
Ici, la logique est différente : Claude ajoutera lui-même une information destinée à signaler son intervention. Le procédé peut donc apporter un élément technique supplémentaire pour retracer l’origine d’un contenu.
Il ne permettra cependant pas nécessairement de déterminer qui en est véritablement l’auteur. En effet, un texte initialement rédigé par un humain mais ensuite reformulé, corrigé ou traduit par Claude pourrait par exemple recevoir ce marquage. Sa présence indiquerait alors une intervention de l’IA, sans prouver qu’elle a créé l’intégralité du contenu.
Qu’en penser ?
Avec ce dispositif, Anthropic anticipe surtout un changement profond dans la manière dont les contenus générés par IA devront être identifiés. Plutôt que de compter uniquement sur des outils tentant de reconnaître a posteriori le style d’une intelligence artificielle, le marquage intervient directement au moment de la génération.
Reste une inconnue importante : Anthropic donne encore peu de détails techniques sur son filigrane textuel, notamment sur sa robustesse après une réécriture ou des modifications importantes du contenu. Un point essentiel pour déterminer si cette nouvelle méthode peut réellement devenir un outil fiable de traçabilité.
