OpenAI dégaine un nouveau modèle d’IA. Baptisé GPT‑Red, le modèle d’intelligence artificielle est uniquement conçu pour trouver des failles dans les autres systèmes d’IA de la start-up, avant les cybercriminels. Pour débusquer les vulnérabilités, l’IA va simuler des cyberattaques réelles contre les modèles qui animent ChatGPT. Ces simulations, évoquées sous le nom de « red teaming » dans le monde de la cybersécurité, doivent permettre d’isoler les points faibles d’un système informatique.
Introducing GPT-Red
An internal automated red teamer on a mission to find our models’ prompt injection vulnerabilities at scale, helping us build stronger defenses before wider deployment.https://t.co/GxnmxxcpSk
— OpenAI (@OpenAI) July 15, 2026
Jusqu’ici, ce travail était principalement réalisé par des chercheurs. Avec son modèle GPT‑Red, la start-up a décidé d’automatiser complètement le processus, de manière à accélérer la détection des failles. OpenAI précise que GPT‑Red a ainsi été entraîné avec une puissance de calcul comparable à celle de ses plus grands modèles d’IA. C’est un niveau d’entraînement « inédit » pour un outil exclusivement dédié à la sécurité. L’entreprise de Sam Altman espère que GPT-Red finira par gagner en autonomie, et à apprendre elle-même à détecter ses propres vulnérabilités, avant leur exploitation par des tiers.
À lire aussi : ChatGPT se verrouille contre les cyberattaques – ce nouveau mode va mieux protéger vos données, comment l’activer ?
Les attaques par injection de requête dans le viseur
Le modèle d’IA est surtout taillé pour empêcher les attaques par injection de requête. Cette technique d’attaque repose sur l’insertion de commandes malveillantes directement dans une requête soumise à l’IA. Le système interprète alors ces instructions comme légitimes et, si elles sont formulées avec suffisamment de précision, il s’y conforme sans résistance. L’enjeu, pour les pirates, est de pousser l’intelligence artificielle à ignorer ses propres garde-fous afin d’exécuter des actions nuisibles. Le problème de fond reste que les grands modèles de langage échouent encore à faire la distinction fiable entre le contenu qu’ils analysent et les ordres qu’on leur donne.
Ce risque s’est nettement accru avec la multiplication des agents IA capables de naviguer sur le web, de lire des fichiers ou d’utiliser des outils tiers de manière autonome. Les agents multiplient en effet les portes d’entrée potentielles. C’est pourquoi OpenAI a décidé d’agir en mettant au point GPT‑Red.
À lire aussi : La mise à jour de ChatGPT qu’on attendait tous – l’IA parle désormais comme un être humain, c’est bluffant
Une IA qui s’entraîne en combattant d’autres IA
Pour former GPT-Red, OpenAI a mis son IA en concurrence avec d’autres modèles d’IA taillés pour la défense. Chaque fois que GPT‑Red parvient à percer les défenses de l’un d’eux, il est récompensé, tandis que le défenseur apprend à se renforcer contre ce type d’attaque. Ce mécanisme pousse tous les modèles à s’améliorer et à évoluer en simultané. En effet, GPT‑Red doit sans cesse inventer des stratégies plus sophistiquées pour continuer à percer les défenses adverses, ce qui le pousse à devenir de plus en plus efficace.
Pour éprouver GPT‑Red dans des conditions réelles, OpenAI l’a confronté à Vendy, un agent d’IA en charge d’un distributeur automatique situé dans ses locaux. Sans trop d’efforts, GPT‑Red est parvenu à trafiquer les prix des produits vendus par le distributeur. Il a aussi pu annuler la commande passée par un autre client, ou s’octroyer un article pour seulement 0.50 dollar.
La découverte de GPT-Red
Au cours de ce processus d’entraînement, OpenAI a découvert une toute nouvelle catégorie d’attaques, baptisée « fake chain-of-thought » (faux raisonnement en chaîne). Cette technique consiste à faire croire au modèle qu’il a déjà vérifié et validé une information fausse au fil de son propre raisonnement interne, si bien qu’il la reprend ensuite sans la remettre en question. En clair, l’attaque revient à persuader un modèle que 1+1 égale 3, simplement en lui faisant croire qu’il a lui-même déjà effectué ce calcul et est arrivé à ce résultat.
Comme l’explique OpenAI dans son communiqué, GPT-Red s’est aussi montré nettement plus efficace que les chercheurs humains. L’IA a réussi à percer dans 84% des scénarios testés, contre seulement 13% pour les experts humains. La start-up souligne que l’utilisation de GPT-Red a permis d’améliorer la résistance de ChatGPT. Alors que plus de 90% des attaques de Red fonctionnaient contre GPT‑5, ce taux est tombé à moins de 23% pour la mise à jour GPT‑5.6, preuve des progrès accomplis en matière de sécurité.
Les angles morts de GPT-Red
Le roi de l’IA reconnaît toutefois que l’outil comporte encore des angles morts. En dépit de son entraînement de haut vol, le modèle reste peu performant sur les attaques longues et progressives, ainsi que sur les offensives dissimulées dans des images. Les experts humains en cybersécurité restent donc indispensables. Afin d’éviter les abus, OpenAI a choisi de ne jamais rendre GPT‑Red accessible au public. L’IA est strictement réservée à un usage en interne.
GPT-Red incarne la stratégie d’OpenAI en matière de cybersécurité. La start-up américaine ambitionne de faire appel à l’intelligence artificielle d’aujourd’hui pour bâtir des générations futures de modèles d’IA plus sûrs et plus résilients. L’entreprise décrit ce mécanisme comme un « cercle vertueux ».
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
