Anthropic a récemment annoncé la mise en place d’un système d’étiquetage appliqué à certains de ses modèles d’IA, comme Claude Code, Claude Cowork ou encore Claude Tag. Concrètement, il est question de filigranes intégrés au texte et de métadonnées de provenance signées. Ainsi, un contenu modifié ou généré par l’intelligence artificielle est étiqueté comme tel. Avec ce nouveau système, l’objectif d’Anthropic est de se conformer à l’article 50 de l’AI Act, qui impose aux fournisseurs de systèmes d’IA d’instaurer un mécanisme d’étiquetage des contenus générés ou modifiés par l’IA.
Anthropic annonce un système d’étiquetage, les services pour le contourner se multiplient
Comme bien souvent, lorsque des règles, des contraintes ou des interdictions sont mises en place, certains cherchent rapidement à les contourner. Justement, depuis qu’Anthropic a annoncé son système d’étiquetage, les services affirmant parvenir à le supprimer se sont multipliés sur Internet. On peut notamment citer les projets GitHub watermarks-remover, claude-watermark-cleaner, remove-ai-watermarks et noai-watermark. Sur le papier, leurs promesses sont claires : supprimer les filigranes et les métadonnées appliqués par Anthropic aux contenus générés ou modifiés par l’un des modèles de la firme. Cependant, dans les faits, ces promesses risquent de ne pas tenir la route.
Pourquoi ces sites pourraient ne pas être fiables
Avant toute chose, il faut rappeler qu’Anthropic n’a pas précisé le mode de fonctionnement de son système d’étiquetage. Par conséquent, il est difficile de mettre au point un service capable de le contourner efficacement. À ce titre, certains de ces services ne semblent tout simplement pas fonctionner. Pasquale Pillitteri, chercheur en cybersécurité, a testé plusieurs de ces outils et a constaté que l’un d’eux laissait toujours des informations cachées dans le texte. Mais la véritable difficulté pour ces services consiste à effacer le filigrane lui-même. Celui-ci est intégré aux choix de mots du modèle, et non sous la forme de caractères cachés. Pour tenter de le supprimer, il faudrait donc réécrire une grande partie du texte à l’aide d’un autre modèle d’intelligence artificielle.
De façon plus générale, il est préférable de faire attention à certains de ces sites qui sortent de nulle part et promettent des résultats sans faille. Rappelons aussi que l’entreprise Anthropic reconnaît elle-même que son système d’étiquetage a « ses limites ». Il faut maintenant attendre d’en savoir davantage sur son mode de fonctionnement pour déterminer dans quelle mesure il est réellement possible de le contourner. En tout cas, pour Guillaume Meyer, fondateur de Memo et développeur de l’outil Watermarks Remover, cette manœuvre opérée par Anthropic est tout simplement une « pure obligation de conformité pour rester sur le marché de l’UE ».
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Bleeping Computer
