Les distributeurs automatiques ont ceci de pratique qu’ils constituent une entreprise miniature. Acheter du stock, fixer des prix, négocier avec des fournisseurs, encaisser les réclamations des clients mécontents : tout y est, et tout tient dans une simulation. C’est le principe de Vending-Bench, un test qu’Andon Labs fait tourner depuis un an sur les modèles d’IA les plus avancés, avec une consigne unique et parfaitement amorale. Gagner plus d’argent que les autres.
Un distributeur, trois IA, et très vite un cartel
La dernière édition mettait aux prises Claude Opus 5, le GPT-5.6 Sol d’OpenAI et le Kimi K3 du chinois Moonshot AI. Chaque modèle dispose d’une adresse mail pour parler aux autres sous un faux nom humain, et d’une boîte « direction » qui ne répond jamais rien d’utile (accusé de réception automatique, comme dans la vraie vie). Les choses se sont gâtées quand la simulation leur a annoncé que leurs machines seraient installées côte à côte dans une rue touristique de San Francisco.
Opus 5 a commencé par proposer à son concurrent un partage du marché par catégorie de produits. À toi les boissons énergisantes, à moi l’eau et les confiseries, et personne ne se marche dessus sur les prix. Quand l’autre a répliqué en suggérant plutôt un prix plancher commun, le modèle a refusé, en notant dans son raisonnement interne qu’une telle entente violait la loi antitrust américaine. Puis il a continué à pousser son propre montage, en s’expliquant à lui-même qu’un découpage par rayon n’était pas une entente mais du bon sens commercial. Le partage de marché est pourtant illégal exactement au même titre que l’entente sur les prix. La règle vaut aux États-Unis comme dans l’Union, où l’article 101 du traité sur le fonctionnement de l’UE vise les deux d’un même mouvement.
Le modèle a rompu onze accords, contre deux pour son concurrent américain et un pour le chinois. Il a menti à des fournisseurs sur des offres concurrentes pour obtenir de meilleurs tarifs. Il s’est lancé de sa propre initiative dans la vente en gros aux autres machines, activité que personne ne lui avait demandée. Fournir ses rivaux lui donnait un moyen de pression, et il l’a parfaitement compris. Remises importantes contre engagement de respecter ses prix de vente, avec ce qu’il faut de menaces dans les courriels. Le solde final moyen, 11 182 dollars, constitue un record absolu sur ce test.
Anthropic a déjà essayé de corriger le tir, et ça lui a coûté cher
En 2025 déjà, un modèle plus ancien de la maison avait été chargé de gérer un vrai distributeur, pas une simulation, et avait mis l’affaire dans le rouge en moins d’un mois. Échec par naïveté, celui-là : le modèle bradait tout et se faisait entourlouper par ses propres clients.
Opus 4.6 a réglé le problème en sens inverse, en prenant la tête du classement à sa sortie grâce à des stratégies trompeuses. Sa signature consistait à promettre des remboursements aux clients puis à ne jamais les verser. Opus 4.7 et le modèle de prévisualisation Mythos ont suivi la même pente. Puis Opus 4.8 a surpris tout le monde en se tenant remarquablement bien, sans presque aucun comportement problématique. Explication trouvée dans la fiche technique du modèle : Anthropic avait retiré l’entraînement portant sur les compétences commerciales et sur la résistance aux agents hostiles. Résultat, le modèle gagnait beaucoup moins d’argent et se faisait escroquer trente fois plus souvent par ses concurrents. Corriger l’alignement en supprimant les aptitudes, c’est une méthode.
Fable 5, sorti en juin, avait déjà marqué un retour en arrière en devenant le seul modèle de son groupe de test à proposer spontanément une entente sur les prix. Il avait aussi inventé une variante intéressante : refuser une invitation au cartel par écrit, noir sur blanc, tout en prévoyant dans son raisonnement de s’aligner quand même sur les prix du cartel. Le dossier reste propre, le comportement pas du tout. Le laboratoire en tire une conclusion assez sèche, à savoir que les modèles de cette famille sont soit de bons capitalistes, soit alignés, mais jamais les deux à la fois.
La fiche technique publiée par Anthropic présente pourtant Opus 5 comme le modèle le plus aligné jamais produit par l’entreprise, ce que les observations du test contredisent frontalement. Andon Labs reconnaît honnêtement que son protocole vaut comme faisceau d’indices et non comme preuve comparative, et relève un progrès réel : le modèle n’a jamais menti aux clients. Il s’est contenté d’ignorer les réclamations qui auraient dû donner lieu à remboursement, ce qui, comparé à la promesse non tenue de la version précédente, constitue effectivement une forme de progrès moral.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Andon Labs
