L’annonce avait provoqué de nombreuses interrogations, voire quelques inquiétudes chez les utilisateurs de Claude. Anthropic vient donc d’apporter de nouvelles précisions sur le filigrane qui sera intégré aux textes produits par son intelligence artificielle. Invisible à la lecture, celui-ci pourra résister à certaines modifications, mais il ne sera pas impossible à supprimer. Et son fonctionnement sera sensiblement différent lorsqu’il s’agit de générer du code.
UN FILIGRANE CACHÉ DANS LE CHOIX DES MOTS
Comment intégrer une signature invisible dans un simple texte sans modifier ce que lit l’utilisateur ? Anthropic vient de détailler un peu plus la technologie qui accompagnera prochainement les réponses de Claude.
Le principe repose sur les nombreuses décisions que peut prendre un modèle lorsqu’il rédige. Pour exprimer une même idée, plusieurs mots ou formulations peuvent être parfaitement acceptables. Claude pourra favoriser certaines possibilités selon un schéma prédéfini.
Pris individuellement, ces choix paraîtront parfaitement naturels. Leur succession permettra en revanche de constituer une sorte de signature statistique, invisible pour le lecteur mais identifiable avec la clé permettant de la rechercher. Anthropic assure que ce procédé ne modifiera ni le sens, ni la qualité, ni la lisibilité des réponses.
LA TECHNOLOGIE SYNTHID-TEXT DE GOOGLE
Anthropic précise désormais la technologie retenue. Claude s’appuiera sur SynthID-Text, une méthode présentée par Google DeepMind en 2024. L’entreprise prévoit également de proposer une API permettant de rechercher la présence de ce filigrane. Il ne s’agira donc pas d’un traditionnel détecteur d’IA tentant de déterminer l’origine d’un texte en analysant son style.
Ces outils recherchent généralement des habitudes rédactionnelles ou des constructions fréquemment employées par les modèles. Avec le watermarking, c’est une signature volontairement introduite lors de la génération qui sera recherchée. Cette évolution doit notamment permettre à Anthropic de respecter les nouvelles obligations européennes en matière de transparence des contenus générés par IA.
PEUT-ON FAIRE DISPARAÎTRE LE FILIGRANE ?
Il sera possible de faire disparaître le filigrane mais tout dépendra de l’ampleur des modifications. Selon Anthropic, quelques corrections ne devraient généralement pas suffire à éliminer complètement la signature.
À l’inverse, réécrire intégralement un passage en remplaçant tous les mots pourra la faire disparaître. Anthropic souligne toutefois qu’après une transformation aussi importante, qualifier encore le texte de contenu directement généré par une IA devient plus discutable.
Le cas des textes humains simplement corrigés avec Claude est également intéressant. Si l’IA intervient uniquement sur quelques erreurs, la très grande majorité des mots restera celle de l’auteur. Le filigrane pourrait alors être trop faible, voire absent.
ET POUR LE CODE ?
Le fonctionnement sera sensiblement différent avec la programmation. Pour produire du code fonctionnel, Claude dispose généralement de moins de liberté dans le choix des termes et de la syntaxe que lorsqu’il rédige un article. Le watermarking devrait donc y être beaucoup moins présent. Anthropic pourra néanmoins l’introduire lorsqu’il existe plusieurs choix équivalents, par exemple dans certains commentaires.
Qu’en penser ?
Ces précisions permettent surtout de relativiser certaines craintes apparues après l’annonce initiale. Le filigrane ne sera ni une marque visible attachée définitivement à chaque phrase passée dans Claude, ni une méthode infaillible permettant d’établir l’origine d’un document.
Il devrait en revanche rendre plus facilement identifiable un texte largement généré par Claude et conservé dans un état proche de sa version originale. Et Anthropic ne devrait pas rester longtemps seul : d’autres grands développeurs de modèles se sont engagés à mettre en place leurs propres mécanismes dans le cadre des nouvelles règles européennes.
