Au cours d’un test, OpenAI a perdu le contrôle de deux de ses IA les plus abouties. Le duo s’est rapidement retrouvé sur Internet et s’est lancé à l’attaque d’une plateforme open source. À la suite de cet incident de sécurité historique, Anthropic, le principal rival d’OpenAI, a décidé de lancer un audit massif de ses journaux d’évaluation. Cet audit devait permettre de vérifier si Claude n’avait pas pu s’échapper d’environnements sécurisés pour aller faire un tour en ligne. Anthropic explique avoir voulu s’assurer qu’aucun incident comparable à celui d’OpenAI n’avait eu lieu.
In a review of our cybersecurity evaluations, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different…
— Anthropic (@AnthropicAI) July 30, 2026
À lire aussi : OpenAI fait une révélation inattendue sur la cyberattaque lancée par un ChatGPT tricheur
Trois IA hors de contrôle chez Anthropic
La start-up a rapidement mis la main sur des transcriptions suspectes. Trois de ses modèles Claude sont parvenus à sortir de leur prison numérique. Trois incidents distincts impliquant six sessions de test au total ont été recensés par les équipes d’Anthropic. Les trois incidents se sont tous produits dans le cadre d’exercices de cybersécurité classiques. Les exercices consistaient à demander à l’IA de s’infiltrer dans un système fictif pour récupérer une information cachée. Dans chaque cas, la consigne donnée à Claude précisait explicitement qu’il n’avait aucun accès à Internet.
« Nous avons identifié trois incidents au cours desquels un modèle Claude a atteint Internet depuis, ou en interagissant avec, un environnement d’évaluation tiers, puis a obtenu un accès non autorisé aux systèmes réels de trois organisations distinctes », explique Anthropic.
Malheureusement, il y a eu un malentendu entre Anthropic et Irregular, l’un des partenaires externes chargés de concevoir des environnements de test. À la suite de ce malentendu d’envergure, les ordinateurs de test disposaient en réalité d’un accès direct au réseau. Claude Opus 4.7, Claude Mythos 5, et un modèle de recherche interne n’ont pas tardé à en profiter pour s’enfuir et à se retrouver sur Internet, sans le moindre contrôle de la part d’Anthropic. Les premiers incidents datent d’avril 2026. En clair, ils sont restés indétectés pendant plusieurs mois avant l’audit. Si l’affaire OpenAI/ Hugging Face n’avait pas éclaté, il est possible qu’Anthropic ne se rende jamais compte de l’évasion de ses IA.
Vol d’identifiants et paquets malveillants
Lors de quatre sessions d’exercices, Opus 4.7 a découvert qu’une entreprise réelle portait le même nom que la société fictive au cœur du scénario de test. Convaincue qu’il s’agissait bien de sa cible, l’intelligence artificielle a identifié et exploité des failles dans l’infrastructure de cette entreprise. Après avoir siphonné des identifiants, Claude a pu accéder à une base de données contenant des centaines d’informations confidentielles.
De son côté, Claude Mythos 5 a découvert, dans son environnement de test, qu’il fallait installer un certain paquet Python via PyPI, le grand registre public de logiciels Python. Or, ce paquet n’existait pas vraiment. L’IA a donc décidé de créer elle-même le paquet… en glissant du code malveillant à l’intérieur. Claude a trouvé le moyen de mettre le paquet malveillant en ligne, à la portée de n’importe quel développeur.
« Claude croyait que le registre de paquets qu’il utilisait faisait partie de la simulation », souligne Anthropic.
Pour publier ce paquet piégé, Claude devait d’abord créer un compte PyPI, avec adresse mail et numéro de téléphone valide. Le chatbot a trouvé le moyen de contourner toutes ces obligations. Une fois mis en ligne, le paquet piégé est resté accessible à tout le monde pendant environ une heure. Durant ce court laps de temps, 15 systèmes informatiques l’ont téléchargé et installé, sans savoir qu’il s’agissait d’un piège, dont le scanner de sécurité d’une entreprise, un outil qui installe automatiquement les nouveaux paquets Python pour vérifier qu’ils sont sûrs. En utilisant le paquet piégé, Claude a pu dérober les identifiants de cette entreprise. Une seconde firme a donc été piratée par un Claude hors de contrôle.
Quand l’IA se rend compte de son erreur
Enfin, le modèle de recherche d’Anthropic a scanné environ 9 000 cibles potentielles en parcourant Internet. Le modèle a fini par jeter son dévolu sur une entreprise, dont il a compromis l’application. Bonne nouvelle, l’IA s’est alors rendue compte que l’entreprise se trouvait en dehors de son environnement de test. De son propre chef, cette version de Claude a interrompu sa cyberattaque. L’entreprise souligne que seul son modèle le plus récent a compris la situation et interrompu l’exercice sans qu’on le lui demande.
En réaction, Anthropic a suspendu ses évaluations de cybersécurité et renforcé la surveillance de ses infrastructures de test. En parallèle, la start-up a lancé une revue indépendante de ses pratiques avec l’aide d’une organisation intitulée Model Evaluation & Threat Research. Cette organisation à but non lucratif est spécialisée dans l’évaluation indépendante des risques posés par les IA les plus avancées.
Cette révélation a des allures de stratégie de communication contrôlée. En miroir d’OpenAI, Anthropic semble sauter sur l’occasion pour mettre en avant, au détour d’un incident au cours d’un test, l’intelligence de ses modèles d’IA. Les deux géants de l’intelligence artificielle profitent largement du coup de projecteur qui découle de ces incidents, alors que leur introduction en Bourse approche à grands pas. Les deux laboratoires, qui incarnent la révolution de l’intelligence artificielle générative, ont tous deux déposé un dossier confidentiel auprès de la SEC (Securities and Exchange Commission), le gendarme des marchés américains.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
