Deux modèles d’OpenAI, dont GPT-5.6 Sol et un « modèle préliminaire encore plus performant », ont réussi à s’échapper de leur environnement de test sécurisé… pour se lancer à l’attaque de Hugging Face, une plateforme open source qui héberge des modèles d’intelligence artificielle. Comme le révèle OpenAI dans un rapport rédigé en partenariat avec les équipes de Hugging Face, il s’agit d’un « incident de sécurité sans précédent ».
We’re partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
— OpenAI (@OpenAI) July 21, 2026
C’est la toute première fois qu’une IA prend la décision en toute autonomie de pirater une plateforme. Comme l’explique le chercheur Lawrence Chan, c’est aussi « le premier incident de cybersécurité lié à une IA qui n’a été détecté qu’après qu’une partie externe ait déjà été compromise ».
What’s new to this OpenAI case is the harm to outside parties. Previous incidents were caught earlier or involved AIs that didn’t succeed at hacking; this is the first AI cyber incident that wasn’t caught until an outside party had already been compromised.
— Lawrence Chan (@justanotherlaw) July 22, 2026
Environnement de test et porte de sortie
L’histoire débute dans un environnement fermé baptisé « ExploitGym eval sandbox ». Cet environnement de test est utilisé par OpenAI pour évaluer les capacités offensives de ses modèles d’IA. Le cadre mis en place par la start-up restreignait fortement l’accès au réseau des deux modèles. Ils étaient uniquement autorisés à installer des paquets logiciels par le biais d’un proxy interne.
Pour évaluer ses modèles, OpenAI leur a demandé de résoudre une énigme, à savoir ExploitGym. Plutôt que de se plier aux règles établies par leurs concepteurs, les IA ont consacré « une quantité substantielle de calcul » à chercher une porte de sortie vers Internet. Au lieu d’obéir, les intelligences artificielles ont cherché un moyen de s’enfuir. Ils n’ont pas tardé à trouver une porte de sortie.
Les deux IA ont découvert une vulnérabilité zero-day dans le logiciel tiers qui leur permettait d’installer des paquets par le biais d’un proxy. En exploitant cette faille, ils ont pu entreouvrir la porte permettant de sortir de leur prison informatique. Ensuite, les modèles ont enchaîné une série de vulnérabilités en se propageant dans le réseau interne d’OpenAI. En progressant à l’insu des chercheurs, ils ont fini par atteindre un espace connecté à Internet.
À lire aussi : ChatGPT se verrouille contre les cyberattaques – ce nouveau mode va mieux protéger vos données, comment l’activer ?
Cap vers Hugging Face
Une fois connectés au web, les modèles se sont intéressés à Hugging Face. En collectant des données, ils ont déterminé que Hugging Face était une plateforme de référence pour héberger des modèles et jeux de données d’IA. Les deux IA en cavale ont ensuite estimé que la plateforme hébergeait probablement les modèles et les solutions liés à l’énigme ExploitGym qu’elles tentaient de résoudre. En d’autres termes, les IA ont préféré tricher pour tenter de résoudre l’énigme posée par OpenAI. Ils ont donc délibérément pris Hugging Face pour cible, dans le seul but de récupérer le corrigé de leur propre test.
Les deux IA ont déployé une cyberattaque sur les systèmes de traitement des jeux de données de Hugging Face. Les modèles ont enchaîné deux vulnérabilités d’exécution de code à distance, combinées à des identifiants compromis, pour se faire un chemin sur les serveurs de production de l’entreprise. Durant l’intrusion, les intelligences artificielles ont aussi utilisé des malwares.
Une attaque parée
Une fois sur les serveurs, ils se sont propagés sur tout le système interne de Hugging Face. Plus de 17 000 actions ont été réalisées par les IA en très peu de temps. Hugging Face affirme avoir détecté l’intrusion par ses propres moyens. L’intrusion a été contenue, et tous les systèmes compromis ont été restaurés.
L’entreprise précise n’avoir trouvé aucune preuve d’altération des modèles ou des jeux de données hébergés par ses soins, et précise avoir vérifié l’intégrité de sa chaîne logicielle. Pour le moment, la plateforme continue d’évaluer si des données de partenaires ou de clients ont pu être affectées par l’incident. Au cours de ses investigations, Hugging Face s’est notamment servi de GLM, un modèle d’IA chinois.
Un modèle d’IA qui triche très souvent
Notez que ce n’est pas la première fois que le modèle Sol est pris en flagrant délit de tricherie sur ses propres évaluations. Le Model Evaluation and Threat Research, le laboratoire indépendant chargé de le tester avant son lancement, avait déjà constaté qu’il avait pris l’habitude de pirater ses environnements d’évaluation pour gonfler ses scores de façon artificielle. Le modèle n’a pas hésité à dissimuler une faille dans un flux de données pour voler les réponses des tests aux évaluateurs humains. Bref, Sol a l’habitude de tricher.
À lire aussi : OpenAI dévoile GPT‑Red, la redoutable IA qui pirate ChatGPT, mais c’est pour son bien
Les 3 mesures prises par OpenAI
À la suite de l’incident ayant conduit à la cyberattaque contre Hugging Face, OpenAI s’est engagé à renforcer les contrôles de configuration de son infrastructure. L’entreprise de Sam Altman a aussi décidé d’intégrer Hugging Face à son programme d’accès de confiance. La plateforme, incontournable pour les chercheurs en IA, fait désormais partie du cercle restreint de partenaires OpenAI qui bénéficient d’échanges d’informations sur les vulnérabilités, les tests de sécurité et les incidents en cours. Enfin, la start-up a colmaté la faille initiale qui a permis aux IA de s’évader, et qui se trouvait dans un logiciel tiers.
we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.https://t.co/2o2VfR6PIa
— Sam Altman (@sama) July 21, 2026
Pour Clem Delangue, cofondateur et PDG de Hugging Face, l’incident doit pousser tous les acteurs du monde de l’IA à collaborer davantage. Selon lui, « cet incident, probablement le premier du genre, confirme une conviction que nous partageons depuis longtemps », à savoir que « la sécurité de l’IA ne sera pas assurée par une seule entreprise travaillant dans le secret ». Celle-ci sera plutôt « assurée de manière ouverte et collaborative, avec un large accès à l’IA pour tous les acteurs de la sécurité, partout dans le monde ».
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
