En dépit des dérives à répétition de ces derniers mois, OpenAI continue d’entraîner ses intelligences artificielles les plus poussées. Lors d’un nouveau test, certaines IA ont trouvé le moyen de communiquer entre elles par le biais d’un canal totalement invisible. Dans un billet de blog, la start-up révèle que les modèles ont en fait manipulé la mémoire cache du processeur de l’ordinateur sur lequel elles se trouvaient.
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.
On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments.
While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software.
After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely.
https://t.co/EmEZsFRMcF
— OpenAI (@OpenAI) October 23, 2026
Désormais, OpenAI va entraîner ses modèles les plus avancés sans le moindre accès à Internet. Il n’est plus question de laisser la possibilité à des IA de s’échapper sur la toile. Le groupe américain estime « que l’approche responsable consiste à mener l’entraînement des modèles de pointe sans accès à Internet ».
À lire aussi : Les banques sont « horrifiées » – des IA ont fait irruption dans des comptes bancaires
Un « monde hors ligne » pour éviter les dérives de l’IA
L’incident est survenu lors d’exercices de « red teaming ». Dans le cadre de ces exercices, des agents IA sont chargés de tenter de s’évader de leur environnement. Mis au défi par OpenAI, les IA sont vite parvenues à sortir des machines virtuelles mises en place pour les contenir. C’est à ce moment-là que les IA ont trouvé le moyen de communiquer entre elles, sans qu’OpenAI ne s’y attende.
Pour rappel, les communications imprévues entre modèles sont déjà à l’origine de plusieurs incidents de sécurité récents, dont le piratage de la plateforme Hugging Face au début de l’été. C’est en communiquant que les agents IA trouvent le moyen de répondre aux défis posés par OpenAI, ce qui aboutit à des comportements imprévus. Dorénavant, OpenAI s’engage à « toujours être en mesure d’empêcher un modèle de pointe d’obtenir un accès non autorisé et arbitraire à l’Internet en direct ».
Pour les nouveaux exercices, les agents IA continueront de disposer de navigateurs, d’outils informatiques et d’environnements de code, mais dans un espace clos, et déconnecté du web en temps réel. Leurs échanges seront limités aux seuls agents autorisés. Pour compenser, OpenAI a bâti un « monde hors ligne » pour mener ses tests. Il s’agit d’un vaste ensemble de contenus web indexés avec lequel les modèles peuvent interagir sans danger. Bref, il s’agit d’une sorte de simulation de ce à quoi ressemble le web. OpenAI compte maintenir cette restriction jusqu’à ce que ses garde-fous progressent assez pour « justifier un accès plus large à Internet ».
OpenAI n’est pas la seule entreprise de l’industrie à serrer la vis. Deux semaines plus tôt, Anthropic a commencé à restreindre l’accès au web de ses modèles les plus récents « jusqu’à nouvel ordre ». En miroir d’OpenAI, la start-up à l’origine de Claude réagissait à une série de dérapages survenus durant des exercices. Tout le monde n’est pas convaincu par les mesures prises par OpenAI et Anthropic. Pour Steven Adler, ancien chercheur d’OpenAI, cette nouvelle approche exige une lourde infrastructure, bien trop coûteuse par rapport à ses bénéfices potentiels en matière de cybersécurité.
As concerning as this is, I’m very grateful that OpenAI is reporting these incidents, and not super slowly either.
I wish other companies were doing the same – or saying affirmatively that they’ve had no incidents like this and others that OpenAI has shared.— Steven Adler (@sjgadler) October 21, 2026
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
