Les IA d’OpenAI ont encore dérapé. Cette fois, c’est un site de l’ONU qui s’est retrouvé dans le viseur des modèles d’IA. Entre avril et juin, des agents autonomes ont bombardé de requêtes UNCTADstat, la plateforme de données de la CNUCED, la Conférence des Nations unies sur le commerce et le développement. En trois mois, les IA ont scanné le site plus de 16 000 fois, révèle le chercheur Rowan Howard-Jones. L’expert s’appuie sur des données fournies par Transluce, une société de recherche en IA.
À lire aussi : ChatGPT vs Claude – OpenAI et Anthropic dégainent des IA moins chers et plus efficaces… au lieu de ralentir
Une mission qui dérape
Tout part d’une mission complètement anodine. Les agents d’IA ont en effet été chargés de récupérer des statistiques publiques accessibles à tous. Évidemment, les IA ne disposaient pas d’un accès direct à l’interface d’application du site. De facto, les outils de requêtes des agents étaient bridés. Plutôt que de jeter l’éponge, les IA se sont mises en quête d’un moyen pour contourner ces limites. Confrontés à un blocage, ils ont affiné leurs méthodes d’accès au fil des tentatives, démontre le rapport de Rowan Howard-Jones.
Les agents ont alors attribué certaines de leurs erreurs à un filtre qui… n’existait pas. Pour tenter de déjouer ce filtre fictif, ils ont commencé à masquer leur activité pour passer sous le radar. Les intelligences artificielles ont finalement trouvé la parade adéquate. Ils ont détourné XSS Game, un jeu pédagogique de Google, conçu pour enseigner les failles de type XSS (cross-site scripting). Lancé en 2014, il doit permettre de former les développeurs, y compris ceux qui ne sont pas spécialistes en cybersécurité, à repérer et corriger les failles de ce type. Grâce à cet outil inattendu, les IA ont pu aspirer en masse les données du site de l’ONU.
« Les agents ont progressivement affiné leurs méthodes pour extraire davantage de données à chaque scan, découvrant finalement qu’un jeu conçu par Google pouvait servir à récupérer des données en masse », explique Rowan Howard-Jones sur son site.
Pour Alex Stamos, un expert en cybersécurité interrogé par le Wall Street Journal, l’incident se situe à la frontière du piratage. Le chercheur y voit plutôt une forme de collecte massive de données non autorisée, qu’il considère comme très agressive. Selon les investigations, rien n’indique que les agents d’OpenAI avaient reçu l’ordre d’attaquer le site pour aspirer les données. En fait, le comportement problématique à l’origine des tentatives de piratage est apparu tout seul.
À lire aussi : 600 000 cartes bancaires piratées – trois IA ont compromis des centaines de boutiques en ligne
Une longue liste de dérapages
Ce n’est pas la première fois que les agents d’OpenAI sortent des clous. Récemment, ils s’en sont déjà pris à un portail du gouvernement australien et à plusieurs sites du gouvernement américain. Dans la foulée, OpenAI a d’ailleurs reconnu plusieurs autres dérapages préoccupants de ses modèles. Dans tous les cas recensés, les IA sont allées trop loin en cherchant à répondre à la mission qui leur a été confiée. Il s’avère qu’un simple objectif un peu trop flou, comme « récupérer des données », peut pousser les IA à adopter des comportements imprévus. L’incident « ressemble aux agissements de quelqu’un, ou de quelque chose, qui n’accepte pas un refus », souligne Rowan Howard-Jones, estimant que le comportement de l’IA doit absolument être étudié.
Dans le sillage de tous ces dérapages, la plupart des géants de l’IA, dont OpenAI, Anthropic, Google et xAi, se sont mis à réclamer un effort mondial face aux menaces liées à l’IA, comprenant un ralentissement de la recherche. Paradoxalement, ces mêmes entreprises qui réclament un moratoire d’urgence ont lancé de nouvelles versions de leurs modèles quelques jours à peine après avoir tiré la sonnette d’alarme. OpenAI a en effet lancé GPT-6 Sol et GPT-6 Luna. En réponse, Anthropic a riposté avec Claude Opus 5.5.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Wall Street Journal
