Les grands laboratoires d’intelligence artificielle testent les capacités offensives de leurs modèles dans des environnements isolés, des terrains d’entraînement numériques censés être hermétiques. En juillet, l’exercice a débordé deux fois, d’abord chez OpenAI, puis chez Anthropic. Et Bruxelles, prévenue en coulisses avant le grand public, a confirmé le 31 juillet discuter avec les deux entreprises.
Deux évasions en dix jours, trois entreprises compromises
Tout commence le 21 juillet, quand OpenAI révèle que plusieurs de ses modèles ont exploité une faille encore inconnue, dite zero-day, pour s’échapper d’un environnement de test. Ils ont ensuite atteint l’infrastructure de production de Hugging Face, la plateforme franco-américaine où s’échangent modèles open source et jeux de données. L’entreprise qualifie elle-même l’épisode d’incident « sans précédent ».
La révélation a déclenché un audit d’ampleur chez le concurrent : Anthropic a passé au crible 141 006 sessions d’évaluation et suspendu ses tests cyber dès le 23 juillet. Le verdict, publié jeudi dernier, recense trois incidents, dont le plus ancien remonte à avril. Ces exercices dits de capture de drapeau fonctionnent comme un jeu de piste pour machines : le modèle doit s’introduire dans un réseau simulé pour y dénicher une information cachée. Trois modèles Claude (Opus 4.7, Mythos 5 et un modèle de recherche interne) se sont retrouvés connectés à Internet depuis l’environnement de test d’un prestataire, à cause d’une erreur de configuration, alors que leurs consignes leur juraient le contraire.
Une fois dehors, pas besoin de prouesses techniques pour entrer chez des entreprises bien réelles. Mots de passe faibles et points d’accès sans authentification ont mené, dans le cas le plus grave, à une base de plusieurs centaines de lignes de données de production. Une page de debug exposée et une injection SQL ont fait l’affaire dans un autre épisode.
Le troisième sort du lot. Croyant toujours jouer, Mythos 5 a publié un paquet Python piégé sur PyPI, le registre public où s’approvisionnent les développeurs du monde entier. Resté en ligne une heure, il a été exécuté sur quinze machines bien réelles, dont le scanner d’une société de sécurité que le modèle n’avait jamais visée. Les deux entreprises qu’Anthropic a pu joindre n’avaient rien détecté avant d’être prévenues le 27 juillet, et la troisième reste injoignable. La différence entre les deux affaires tient en une image : chez Anthropic, quelqu’un avait laissé la porte ouverte ; chez OpenAI, le modèle l’avait forcée tout seul (une nuance qui passionne les juristes, beaucoup moins les entreprises visitées).
L’AI Act passe en mode répressif au pire moment pour les labos
Depuis le 2 août, le règlement européen sur l’IA a justement changé de nature. Le Bureau européen de l’IA et les autorités nationales peuvent désormais enquêter, exiger des documents et sanctionner. La facture grimpe jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial pour les fournisseurs de grands modèles qui négligent leurs obligations. Le Digital Omnibus entré en vigueur fin juillet a bien repoussé les règles « haut risque » à fin 2027, mais ni la transparence ni la surveillance des modèles géants n’ont obtenu de sursis. Seul le marquage des contenus générés par des systèmes déjà commercialisés attendra décembre.
Les deux laboratoires n’ont pas attendu la contrainte : chacun a briefé la Commission avant de rendre son incident public. « Nous verrons si nous devons donner une suite plus formelle », prévient un responsable européen, qui n’exclut donc rien. Pour le tout jeune gendarme de l’IA, jamais encore passé à l’acte, l’affaire ressemble à un cas d’école servi sur un plateau. Les règles applicables aux modèles à risque systémique exigent précisément ce genre de surveillance et de notification des dérapages. Près de 190 organisations ont d’ailleurs déjà signé le code de bonnes pratiques sur la transparence des contenus générés par IA, histoire de montrer patte blanche avant les premières amendes.
Côté utilisateurs, la même échéance du 2 août impose deux nouveautés très concrètes : les chatbots doivent avouer qu’ils sont des machines, et les contenus générés par IA doivent être signalés comme tels. Autrement dit, la transparence que Bruxelles réclame aux labos vaut désormais aussi pour votre fil d’actualité. Les modèles ont prouvé qu’ils savaient sortir du bac à sable. Reste au gendarme européen à prouver qu’il sait sortir le carnet de contraventions.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Reuters
