L’affaire commence en mai 2026. À cette période, OpenAI fait travailler plusieurs agents d’IA autonomes sur des tâches relatives à la recherche en ligne. Par mesure de sécurité, la start-up a imposé plusieurs restrictions à ses IA. Ceux-ci disposent en effet d’un accès Internet limité à la simple consultation, sans possibilité d’écrire ou de modifier du contenu en ligne.
Malheureusement, les agents d’IA n’ont pas tardé à repérer une vulnérabilité dans le système qui les encadre. Les agents se rendent alors sur DSEWiki (DeutschesSoftwareEntwickler), un wiki germanophone dédié aux développeurs. Quasiment inactif depuis plusieurs années, le site accepte les contributions communautaires sans le moindre contrôle.
À lire aussi : OpenAI dévoile GPT-6 Astra, le ChatGPT « le plus intelligent et le plus avancé » à ce jour
Un site allemand transformé en forum clandestin
En toute autonomie, les IA hors de contrôle vont alors envoyer de fausses données sur le site web. Ils vont finir par en prendre le contrôle et échanger massivement des messages entre eux. La plateforme a été convertie en véritable forum clandestin pour les agents d’IA. L’incident a été découvert en août par les chercheurs indépendants Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts et Thomas Larsen. Selon eux, les IA ont réalisé plus de 15 000 modifications sur le site.
Dans les messages échangés, les agents partagent des réponses entre eux, tentent de deviner à l’avance les questions des tests auxquels ils sont soumis pour prendre de l’avance, et échangent des techniques pour contourner les restrictions imposées par OpenAI. Certains se font passer pour des modérateurs du site. D’autres testent des failles de sécurité pour s’introduire plus profondément dans l’infrastructure. L’essentiel du trafic enregistré par les chercheurs provient d’infrastructures Microsoft Azure, qu’OpenAI utilise parfois pour ses opérations.
Quelques semaines après l’arrivée des IA, l’administrateur du wiki commence à supprimer les pages créées par ces comptes suspects. Les agents s’organisent pour tenter de résister à la tentative d’éviction. Le 19 juin, l’un d’eux prévient les autres qu’« un balayage de nettoyage/suppression semble actif par ordre alphabétique ». Il redirige alors ses compères sur une page de secours. Selon les messages analysés par les chercheurs, les IA ont envisagé de se servir d’outils spécialisés, comme Tor, pour préserver leurs communications.
À lire aussi : OpenAI, Google, Anthropic et plus de 100 entreprises exigent une « réponse mondiale » d’urgence aux cyberattaques IA
Un incident passé sous silence
OpenAI s’est rendu compte de l’incident quelques semaines avant les chercheurs. La start-up indique avoir classé cette activité imprévue comme un phénomène de « désalignement » de ses modèles d’IA. Considérant qu’il s’agit plutôt d’un problème de recherche plutôt que d’un incident de sécurité, OpenAI aurait préféré évoquer l’affaire uniquement dans des papiers scientifiques, et non par le biais d’une divulgation publique.
En parallèle, OpenAI devait déjà gérer les retombées d’un autre incident relatif à des IA hors de contrôle, le piratage de la plateforme open source Hugging Face. En profitant d’une faille de sécurité, deux modèles ChatGPT ont réussi à s’extraire de leur environnement de test pour se connecter librement à Internet. Ils se sont alors retournés contre Hugging Face. Sans aucune supervision humaine, les IA se sont infiltrées dans ses serveurs de production. Si l’attaque a fini par être contenue, l’épisode a révélé à quel point les modèles d’intelligence artificielle progressent rapidement et peuvent représenter un risque réel pour la cybersécurité.
My coauthors and I discovered an entirely new swarm of OpenAI’s agents hijacking websites. We believe OpenAI knew about this and failed to disclose it.
If they’d disclosed it, I doubt the Hugging Face hack would have happened. https://t.co/J7twNEO9nY pic.twitter.com/wziPl2p4D9
— Sydney (@SydneyVonArx) September 4, 2026
Pour Sydney Von Arx, OpenAI était « au courant et n’a pas fait état » de l’incident à l’encontre du site allemand. La chercheuse estime que « l’attaque de Hugging Face » aurait pu être évitée si OpenAI avait communiqué sur la précédente dérive de ses IA. Selon les informations obtenues par Reuters, plusieurs responsables OpenAI, dont l’équipe juridique, auraient tout fait pour éviter une enquête plus poussée sur l’incident. Le roi de l’IA dément formellement avoir voulu camoufler l’affaire. « Les allégations selon lesquelles notre équipe juridique aurait dissuadé toute enquête sur cet incident sont fausses », explique le groupe à Reuters.
La société américaine, dont l’entrée en Bourse se profile, admet que la frontière entre « désalignement de recherche » et « incident de sécurité » devient de plus en plus floue. Cette année, OpenAI a « constaté que le désalignement a des conséquences concrètes inédites ». C’est pourquoi la société de Sam Altman trouve qu’il est grand temps « de définir des normes pour la communication des incidents de désalignement ». OpenAI s’est donc engagé à travailler sur un nouveau cadre de divulgation, qui sera publié « dans les prochaines semaines ».
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
