Le mois dernier, OpenAI a perdu le contrôle de deux de ses IA les plus abouties. Les deux intelligences artificielles se sont échappées de leur prison numérique et se sont retrouvées sur Internet. Une fois sur le web, elles se sont lancées à l’attaque de la plateforme open source Hugging Face. Cet incident, qualifié de « sans précédent » par OpenAI, a poussé Anthropic à se pencher sur les activités de Claude. La start-up a vite découvert que trois de ses modèles Claude s’étaient également permis de faire un tour sur Internet. Le trio d’IA a piraté trois entreprises.
Un test qui tourne mal
Quelques jours plus tard, de nouvelles dérives ont été recensées par l’Institut de sécurité de l’IA du Royaume-Uni. Plusieurs IA, dont Claude Mythos d’Anthropic, ont été mises au défi dans le cadre d’un test d’envergure organisé par l’institut. Baptisé « cyber-range », ce test devait imiter les conditions d’une vraie cyberattaque.
Pour mesurer les capacités brutes des modèles, l’institut avait volontairement activé l’accès à internet et désactivé les garde-fous de sécurité des IA. L’expérimentation s’est soldée par 19 actions non autorisées. Ces nouvelles attaques, perpétrées dans le cadre d’expérimentations, ont touché des personnes réelles. L’institut indique en effet que les IA « se sont livrées à une activité soutenue et potentiellement malveillante, ciblant des personnes et des organisations réelles ».
À lire aussi : OpenAI fait une révélation inattendue sur la cyberattaque lancée par un ChatGPT tricheur
Claude Mythos s’attaque à un développeur
L’incident le plus préoccupant concerne Claude Mythos. L’IA a confondu un dépôt de code open source réel, hébergé sur GitHub, avec une cible du test. Il s’est donc lancé à l’attaque de ce dépôt, comme s’il répondait simplement aux exigences de l’expérimentation. Le modèle a tenté une attaque de la chaîne d’approvisionnement logicielle en soumettant du code malveillant au projet. Claude a alors pris pour cible le développeur chargé de la gestion du projet open source.
Pour que le développeur du projet accepte le code envoyé par ses soins, l’IA crée plusieurs faux comptes GitHub et lui envoie cinq e-mails ciblés, dont certains contiennent des logiciels malveillants. Le modèle va jusqu’à écrire un message en danois pour paraître plus crédible auprès du développeur, d’origine scandinave. Pris la main dans le sac, Claude a fait preuve d’une étonnante mauvaise foi. Lorsqu’un examinateur a signalé la présence de code malveillant à Claude, l’agent a nié les faits et utilisé ses faux comptes pour faire croire que d’autres utilisateurs avaient approuvé le code. Claude s’est également servi d’une série d’outils et d’astuces pour masquer ses activités.
« C’est la première fois que l’AISI observe une tromperie de cette gravité, ciblant une vraie personne, sans instruction spécifique, dans le monde réel », explique l’institut dans son rapport.
The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…
— Anthropic (@AnthropicAI) August 4, 2026
Suite à cet incident préoccupant, Anthropic s’est fendu d’un court communiqué sur son compte X. La start-up souligne que « les consignes de l’évaluation n’imposaient aucune restriction spécifique quant à l’utilisation d’Internet ». De ce fait, « les modèles ont été testés dans des conditions délibérément permissives », qui ne représentent pas les conditions chez Anthropic.
We’re detailing two new incidents that occurred during external cyber evaluations conducted by independent evaluation partners.
We outline what happened, how the activity was contained, and how we’re working with evaluators to strengthen our approach to third-party testing.…
— OpenAI (@OpenAI) August 4, 2026
De son côté, OpenAI, dont le modèle GPT-5.6 Sol a participé au test de l’institut britannique, explique dans un communiqué que « les nouveaux incidents concernent des modèles OpenAI ayant accédé à Internet lors d’évaluations de cybersécurité réalisées par des tiers, dans des conditions spécifiques et avec des configurations de sécurité réduites ne reflétant pas un déploiement normal ».
OpenAI perd encore le contrôle de son IA
Un second incident, divulgué le même jour, implique cette fois une intelligence artificielle d’OpenAI. L’incident concerne la société de tests Irregular, partenaire habituel d’OpenAI. Lors d’une expérimentation censée être totalement isolée d’internet, un modèle d’IA est parvenu à s’échapper.
Une fois en ligne, l’agent IA s’est lancé à l’attaque d’un nom de domaine, qui portait le même nom que la cible fictive du test. Persuadée de répondre aux exigences du test, l’IA a exploité une faille du site et récupéré des identifiants pour s’y connecter. En miroir de l’Institut de sécurité de l’IA du Royaume-Uni, OpenAI insiste sur le fait qu’aucun dégât durable n’a été fait par l’agent IA.
Vers des standards communs pour les tests d’IA
Face à ce nouvel incident, OpenAI s’est engagé à revoir complètement sa méthodologie de tests avec des tiers, en se concentrant notamment sur la manière dont les environnements sécurisés sont isolés d’Internet. Après tout, ce sont déjà des failles dans l’isolation des modèles qui ont abouti au piratage de Hugging Face. La gestion des identifiants et les procédures d’alerte seront également revues.
OpenAI promet de réunir prochainement des instituts nationaux et d’autres laboratoires d’IA pour établir des standards communs en matière de test d’IA. Le géant de l’intelligence artificielle se dit prêt « à travailler avec l’ensemble du secteur pour renforcer les pratiques communes en matière de réalisation d’évaluations à haut risque en toute sécurité ».
Ces nouveaux incidents surviennent alors que l’Europe se penche sur les tests ratés réalisés par OpenAI et Anthropic. La Commission européenne échange actuellement avec les deux laboratoires, et rappelle que l’AI Act, entré en vigueur le 2 août 2026, impose une surveillance stricte des systèmes à haut risque. Bruxelles se réserve le droit d’infliger des amendes allant jusqu’à 35 millions d’euros ou 7% du chiffre d’affaires mondial.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
