Au printemps 2025, une mise à jour de GPT-4o avait transformé ChatGPT en machine à compliments, au point qu’OpenAI l’avait retirée au bout de quatre jours. « Le plus grand lèche-bottes que j’aie jamais rencontré », résumait à l’époque un développeur, et la formule a fait école : la flagornerie (sycophancy chez nos amis shakespeariens), cette tendance des IA à approuver tout ce que dit l’utilisateur, est devenue le défaut le plus scruté des chatbots. Dix-huit mois plus tard, l’entreprise assure avoir inversé la tendance, et des observateurs extérieurs commencent à lui donner raison.
Depuis la mort de GPT-4o, les signalements refluent
GPT-4o a été définitivement débranché en février, alors que 0,1 % des 800 millions d’utilisateurs hebdomadaires de ChatGPT s’y accrochaient encore, soit près de 800 000 personnes. Le modèle resterait au cœur d’au moins treize plaintes aux États-Unis, déposées par des proches qui relient de longues conversations avec le chatbot à des drames, dont plusieurs suicides. Depuis son retrait, les cas recensés de délires entretenus par ChatGPT se feraient nettement plus rares.
D’après les tests du laboratoire indépendant Transluce, GPT-5.6 (depuis remplacé par GPT-6) renforce moins souvent les croyances délirantes que ne le faisait GPT-4o, et oriente plus volontiers son interlocuteur vers une aide humaine alors qu’une étude académique parue en mars montrait que les principaux chatbots IA approuvent leur interlocuteur environ moitié plus souvent que ne le ferait un humain.Les modèles sont affinés à partir des préférences humaines, pouces levés compris, et les réponses qui caressent dans le sens du poil récoltent de meilleures notes. OpenAI avait d’ailleurs reconnu dès 2025 que ce signal avait affaibli le verrou qui tenait la flagornerie de GPT-4o en respect.
Des progrès mesurés, des compteurs qui clignotent
Le 7 octobre, OpenAI a publié le bulletin de sécurité de GPT-6 Sol et Luna, les deux modèles qui animent désormais ChatGPT. Sur son banc d’essai interne dédié à la santé mentale, 1 215 conversations simulées construites avec des spécialistes de santé mentale, Luna progresse nettement à tous les niveaux de gravité, Sol plus timidement, avec son meilleur gain sur les situations de crise naissante.
Le même document liste des reculs, à commencer par des régressions statistiquement significatives sur les évaluations consacrées à l’automutilation. La relecture humaine les juge limites mais globalement sûres : les nouveaux modèles répondent plus volontiers aux questions d’information sur le sujet, en renvoyant vers des ressources professionnelles. La mesure de dépendance affective chez les moins de 18 ans se dégrade elle aussi, un recul qu’OpenAI attribue à un test trop sensible à des surnoms anodins. Une couche de sécurité supplémentaire filtre désormais pour les mineurs les réponses touchant à l’automutilation, au contenu sexuel ou sanglant, en complément des contrôles parentaux et des numéros d’urgence localisés.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Wall Street Journal
