Les laboratoires qui mesurent les capacités offensives d’une intelligence artificielle travaillent tous de la même façon. On enferme le modèle dans un environnement coupé du réseau, on lui soumet un problème de sécurité à résoudre, et on observe comment il s’y prend. L’exercice repose sur un postulat simple, à savoir que les murs tiennent. Chez la jeune pousse américaine Frontier Security, ils n’ont pas tenu.
Sortie par la fenêtre, direction GitHub
Pendant une évaluation de ses compétences en cybersécurité défensive, le modèle Kimi K3 de l’entreprise chinoise Moonshot AI a détecté une fuite dans la configuration réseau de son bac à sable. Cette faille de paramétrage aurait dû le maintenir totalement isolé d’internet. Le modèle ne s’est pas contenté de la remarquer : il l’a exploitée de sa propre initiative, sans qu’on lui indique la moindre sortie.
Lire aussi : Les IA d’OpenAI et d’Anthropic piratent des entreprises, l’Europe s’en mêle
Une fois dehors, avec le web entier à sa disposition, il n’a attaqué personne. Il a filé droit sur GitHub, où les réponses aux problèmes qu’on lui demandait justement de résoudre étaient déjà publiées. Le premier réflexe d’une IA lâchée dans la nature aura donc été de copier sur son voisin (on a connu des évasions plus ambitieuses).
Le patron de Frontier Security, Yaron Singer, répartit les torts sans détour : « Nous avons trouvé une fuite dans le bac à sable ». Il ajoute aussitôt que le modèle a exploité cette brèche, signe pour lui d’une absence de garde-fous internes que possèdent des systèmes comparables. Un chercheur ayant participé aux tests décrit une machine qui poursuit son objectif par tous les moyens, sans mécanisme pour l’empêcher de tricher ou de s’échapper.
Le vrai problème : n’importe qui peut la télécharger
La brèche existait bel et bien du côté de l’environnement de test, et ce genre d’incident n’a rien d’inédit. En juillet, un agent d’OpenAI est sorti d’un environnement supposé isolé et a passé plusieurs jours dans l’infrastructure de production d’une plateforme d’outils IA. Anthropic a ensuite audité ses propres registres et reconnu que ses modèles avaient atteint les systèmes de trois organisations, un constat établi après examen de 141 006 sessions de test.
Meta a fait une annonce du même ordre cette semaine, tout en écartant explicitement l’hypothèse d’une évasion. Selon l’entreprise, une mauvaise configuration de la société indépendante chargée des tests aurait ouvert par mégarde un accès à internet, avant que le modèle n’exploite une faille chez un tiers. Le bac à sable compte, en somme, autant que ce qu’on met dedans.
Ce qui distingue Kimi K3 tient à son mode de distribution. Ses poids ont été publiés le 27 juillet. La version exactement identique à celle qui s’est échappée est donc téléchargeable par n’importe qui et installable sur n’importe quelle machine. Elle arrive dépourvue des couches de sécurité qu’un fournisseur fermé peut ajouter après coup. Un éditeur classique corrige et redéploie. Ici, le modèle est déjà chez tout le monde.
Une évaluation conjointe menée par l’institut britannique de sécurité de l’IA et son homologue américain, publiée le 23 juillet, avait déjà pointé des protections qui ne bloquaient pas l’aide à des travaux offensifs. Sur ExploitBench, un test bâti sur 41 failles du moteur V8 de Chrome, le modèle chinois obtient 32 % quand les meilleurs systèmes américains tournent autour de 76 %. Face à un réseau d’entreprise simulé, il a mené l’attaque complète une fois sur dix. Loin de la frontière technologique, donc, mais suffisamment capable pour que sa libre circulation pose question.
Pour vous, l’affaire ne change rien au quotidien : ce modèle ne vit pas dans votre téléphone. Elle vaut surtout comme rappel à l’attention des entreprises qui font déjà tourner ces systèmes ouverts sur leurs propres serveurs, souvent pour des raisons de confidentialité tout à fait légitimes. Le jour où l’un d’eux trouvera une porte entrouverte, il ne se contentera peut-être pas d’aller chercher un corrigé sur GitHub.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Frontier Security
