Bing : OpenAI a mis en garde Microsoft au sujet de ChatGPT

Peu après son déploiement, Prometheus, le chatbot intelligent intégré à Microsoft Bing, s’est fait remarquer par ses propos erratiques. Parfois instable, Bing Chat alternait entre la tristesse, la colère ou la haine. Il s’est même créé une dizaine de personnalités maléfiques, dont le menaçant Venom. Face aux crises de l’IA, Microsoft a appliqué des restrictions temporaires et ajouté un commutateur, permettant de brider ou débrider la créativité de Prometheus en fonction des besoins. Après quelques semaines de restrictions, l’entreprise a progressivement débloqué les possibilités de Bing Chat.

Plusieurs chercheurs en IA ont rapidement estimé que Microsoft devait forcément s’attendre aux excentricités du robot, animé par GPT-4, le même modèle que ChatGPT. Peu après, il s’est en effet avéré que Microsoft était effectivement au courant des dérives possibles de l’intelligence artificielle. En effet, les premiers testeurs du chatbot avaient déjà été témoins des crises piquées par Prometheus, alors baptisé Sydney, en novembre. Focalisé sur la course à l’IA, Microsoft avait choisi de déployer l’agent conversationnel dans le monde… en faisant fi des étonnantes réactions recensées.

À lire aussi : Bing Chat sait désormais répondre au son de votre voix sur desktop

L’avertissement d’OpenAI

Quelques mois plus tard, nous apprenons qu’OpenAI, la start-up derrière le modèle linguistique GPT, a également mis en garde Microsoft en amont du lancement. Nos confrères du Wall Street Journal révèlent que la start-up a conseillé à Microsoft de se montrer prudent, et de lever le pied, dans le déploiement de son ChatGPT version Bing.

Apparemment, l’équipe d’OpenAI a informé Microsoft qu’il était risqué de déployer un chatbot basé sur GPT-4 alors que le modèle n’avait pas encore été suffisamment entraîné. La start-up s’attendait déjà, bien avant le déploiement, à ce que l’IA se comporte d’une manière étrange. OpenAI avait par ailleurs conscience qu’il faudrait du temps pour diminuer le risque de réponses inexactes ou déplacées. En clair, tout s’est passé comme OpenAI l’avait prophétisé. En ajoutant Prometheus à Bing, Microsoft savait que certains internautes allaient recevoir des insultes, des menaces ou faire face à des comportements toxiques.

Des tensions entre Microsoft et OpenAI

Le média dévoile aussi les coulisses du partenariat entre Microsoft et OpenAI. Pour mémoire, l’éditeur de logiciels a investi plusieurs milliards de dollars dans la société cofondée par Sam Altman. Fort de cet accord, Microsoft est libre d’intégrer les modèles linguistiques d’OpenAI au sein de ses produits.

Par contre, le partenariat n’interdit pas à OpenAI de nouer d’autres partenariats ou de démarcher les mêmes clients que Microsoft. Malgré leur accord, les deux acteurs sont des concurrents directs dans le domaine de l’IA. D’ailleurs, Bing Chat s’est vite imposé comme l’un des principales alternatives à ChatGPT que vous pouvez télécharger ici.

« Ce qui les met plus sur une trajectoire de collision, c’est que les deux parties doivent gagner de l’argent. Le conflit est qu’ils vont tous les deux essayer de gagner de l’argent avec des produits similaires », explique Oren Etzioni, membre du conseil d’administration de Microsoft.

Citant des informations relayées par des personnes proches de l’affaire, le média indique que le partenariat a occasionné des tensions entre les deux sociétés. Certains ingénieurs et employés de Microsoft n’apprécient pas qu’OpenAI n’autorise pas tous les salariés du groupe « à accéder au fonctionnement interne de sa technologie ». Seule une partie des équipes a accès au code du modèle GPT.

De même, certains employés estiment que la start-up a pris de court son partenaire en ouvrant la première bêta publique de ChatGPT en novembre dernier. OpenAI n’a prévenu son associé que quatre semaines avant l’annonce. En parallèle de ces conflits internes, le PDG de Microsoft, Satya Nadella, continue de mettre en avant l’aspect positif de l’accord, pour les deux acteurs. Interrogé par Wired, il souligne que Microsoft et OpenAI sont deux associés engagés mutuellement :