Passer au contenu

Bing : Microsoft est obligé de museler ChatGPT pour l’empêcher de délirer

Microsoft serre la vis de ChatGPT sur Bing. Face aux crises de délire du chatbot, le géant américain a été obligé d’imposer des limites à l’IA. Voici lesquelles.

Un peu plus d’une semaine après le lancement, Microsoft a été contraint d’apporter des changements drastiques au nouveau Bing. D’après le géant américain, Prometheus, la version de ChatGPT intégrée au moteur de recherche, a tendance à piquer des crises et à raconter n’importe quoi quand la conversation traîne en longueur.

Plusieurs internautes se sont rendu compte que le chatbot pouvait se montrer agressif, insultant, déprimé ou sentimental après de longs échanges. Poussé à bout par certains journalistes, le robot conversationnel s’est même inventé une dizaine de personnalités alternatives. Parmi celles-ci, on trouve un alter ego violent et malfaisant, que Prometheus a baptisé Venom.

Les nouvelles limites de l’IA de Bing

Pour éviter ces dérives, Microsoft a pris la décision de décréter des limites. Désormais, les conversations avec Prometheus seront limitées « à 50 tours par jour et 5 tours par session ». Microsoft définit un tour comme un échange qui « contient à la fois une question de l’utilisateur et une réponse de Bing ».

« Dès qu’une session de chat a atteint les 5 tours, vous serez invité à démarrer une nouvelle session », explique Microsoft sur son site web.

En clair, il n’est plus possible de discuter avec l’intelligence artificielle, de tout et de rien, sans aucune limite. À partir de maintenant, il faudra réserver ses échanges avec le chatbot aux questions indispensables. Pour justifier l’ajout de cette limite, Microsoft assure que la plupart des utilisateurs obtiennent une réponse à leurs requêtes en seulement quelques échanges :

« Nos données ont montré que la grande majorité d’entre vous trouve des réponses en 5 tours et qu’uniquement environ 1 % des conversations de chat comportent plus de 50 messages ».

L’éditeur américain ajoute également un bouton permettant d’effacer tout le contexte de la conversation. Quand une session prend fin, l’internaute doit appuyer sur « l’icône en forme de balai à gauche de la zone de recherche » pour relancer une conversation en évitant que l’IA ne se mette à dysfonctionner. Ce bouton réinitialise le chatbot. A priori, il ne sera plus possible de pousser le robot à raconter des absurdités, à déblatérer des insultes ou à proférer des menaces.

Dans un second temps, Microsoft ajoutera par ailleurs un commutateur à l’interface. Celui-ci permettra à l’utilisateur de mettre l’accent sur la véracité des réponses de l’IA ou sur la créativité. En fonction des besoins, vous pourrez ajuster la créativité du chatbot.

Un aveu d’échec ?

Il n’est pas étonnant que Microsoft apporte des modifications régulières au fonctionnement de son moteur de recherche. En effet, le chatbot de Bing est toujours en version bêta. L’éditeur s’appuie sur les retours des premiers utilisateurs pour peaufiner l’expérience en vue de la version définitive, accessible pour tous les internautes dans les mois à venir.

Néanmoins, ces changements sonnent comme un aveu d’échec de la part de Microsoft. Alors qu’OpenAI n’a pas été obligé d’encadrer l’utilisation de ChatGPT, malgré sa popularité croissante, Microsoft a rapidement été contraint de serrer la vis de Prometheus. On imagine que c’est l’accès Internet du robot conversationnel qui change la donne. Contrairement à ChatGPT, Prometheus est capable de piocher dans les données disponibles sur la toile pour répondre aux usagers.

Avec ces mesures, Prometheus se cantonne à n’être qu’un simple assistant pour la recherche en ligne plutôt qu’un chatbot multifonctions. En limitant le nombre d’échanges d’une conversation, Microsoft empêche en effet les internautes d’affiner la manière dont l’IA génère des textes. Avec ChatGPT, il faut en effet ajouter une foule de détails, d’informations et de consignes pour obtenir une réponse taillée sur mesure. C’est de cette manière que le chatbot produit les réponses les plus utiles. Il est donc plutôt dommage, bien qu’inévitable, que Prometheus soit bridé par Microsoft…

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.

Opera One - Navigateur web boosté à l’IA
Opera One - Navigateur web boosté à l’IA
Par : Opera

Source : Microsoft


Florian Bayard
Votre opinion
  1. j’aime les définitions. Celle de “l’intelligence” demanderait quelques éclaircissements et modifications suivant le rythme d’accélération civilisationnel que nous connaissons. . l’intelligence dite ARTIFICIELLE est un non sens. Il s’agit d’une aide mathématique, d’un outil . Celui-ci n’ayant rien d’organique ne mérite que la nomination : Assistance technique auto-évolutive………Autodidacte c’est pour les humains;-)
    PS: je n’apprécie vraiment pas cette machine dangereuse et indiscrète associée à Bing……..grrrrrr ;-))

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *