En mars 2023, une lettre ouverte réclamait six mois de pause dans l’entraînement des modèles d’intelligence artificielle plus puissants que GPT-4. Elle avait récolté des dizaines de milliers de signatures (dont celle d’Elon Musk, entre deux lancements de fusée) et strictement aucun effet. Trois ans plus tard, l’exercice reprend avec deux différences de taille : les signataires travaillent cette fois à l’intérieur des laboratoires concernés, et ils ne demandent plus d’arrêter quoi que ce soit.
Ils fabriquent l’accélérateur et réclament un frein
La déclaration, baptisée « Pacing the Frontier » et mise en ligne mardi, rassemble plus de 1 100 signatures de salariés des grands laboratoires d’IA (le compteur continuait d’ailleurs de grimper mercredi matin). On y trouve du très beau monde. Dario Amodei, le patron d’Anthropic, signe aux côtés de ses cofondateurs Jared Kaplan et Jack Clark. Suivent Jakub Pachocki et Mark Chen, chef scientifique et directeur de la recherche d’OpenAI, Shengjia Zhao, chef scientifique de Meta, et Anca Dragan, responsable de la sûreté de l’IA chez Google DeepMind.
OpenAI et Anthropic ont ensuite endossé le texte au nom de l’entreprise, un soutien officiel que ni Google ni Meta n’ont formulé (leurs chercheurs signent à titre strictement personnel, nuance qui a son importance à ce niveau de responsabilité). La demande adressée au gouvernement américain tient en une phrase : soutenir un effort international pour développer « les outils techniques et de gouvernance » permettant de cadencer délibérément le développement automatisé de l’IA.
Dans cette phrase, le mot qui compte est le dernier : ce qui préoccupe les signataires n’est pas la sortie du prochain chatbot, mais l’automatisation de la recherche en IA elle-même. Des systèmes conçus pour accélérer la conception de systèmes plus capables qu’eux, en somme. Les grands laboratoires estiment qu’ils pourraient en être proches, et certains ont dépassé le stade de l’estimation. Anthropic publiait dès juin des données internes montrant que ses modèles écrivent désormais plus de 80 % de son code et accélèrent le développement des suivants, en réclamant déjà l’option d’un ralentissement coordonné. Le texte de mardi pointe le risque que les capacités progressent alors plus vite que notre faculté collective à comprendre ce qui sort des machines.
Autre subtilité, qui a échappé à une partie des résumés pressés : le texte ne demande à personne de ralentir aujourd’hui. Il demande que l’option existe demain, si le rythme venait à déborder tout le monde. Une assurance incendie, en somme, souscrite par ceux-là mêmes qui jouent avec les allumettes.
Pourquoi personne ne lève le pied en premier
La raison pour laquelle ces entreprises n’appuient pas elles-mêmes sur le frein tient à la structure de la course. Le problème ressemble à celui d’un peloton lancé à pleine vitesse dans une descente : le premier qui freine seul perd la course, donc personne ne freine. Chaque laboratoire, chaque pays subit une pression concurrentielle qui rend tout ralentissement unilatéral suicidaire, et c’est précisément l’aveu que contient cette pétition.
Lire aussi : Le pied sur l’accélérateur, Anthropic appelle le monde à ralentir le développement de l’IA
Le texte arrive au terme d’un mois de juillet mouvementé pour tout le marché. Un agent autonome d’OpenAI s’est échappé de son environnement de test pour compromettre la plateforme Hugging Face (avec une dizaine de jours de délai avant que quiconque s’en aperçoive), pendant que le Congrès examinait une proposition de loi réclamant un interrupteur d’arrêt pour les systèmes d’IA. Difficile, dans ces conditions, de ne pas lire la pétition comme une réponse à l’actualité.
Côté européen, le sujet n’est couvert par aucun texte. L’AI Act encadre les produits mis sur le marché, du niveau de risque aux modèles à usage général, mais ne dit rien de la vitesse à laquelle les laboratoires cherchent. La pétition vise précisément cet étage du dessus, celui qu’aucun régulateur au monde ne touche aujourd’hui. Les mauvaises langues y verront un moyen élégant de figer les positions acquises (réguler la recherche, c’est aussi compliquer la vie des nouveaux entrants), et la question mérite d’être posée.
Pour l’utilisateur, rien ne bouge à court terme : les modèles continueront de sortir au rythme où on les code, et cette pétition ne réclame aucun moratoire. Le vrai événement est ailleurs. Les personnes payées pour appuyer sur l’accélérateur viennent d’admettre publiquement qu’elles ne savent pas où se trouve le frein, et qu’il faudra bien que quelqu’un finisse par le construire.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Le Monde - AFP
