Craignant que ChatGPT, désormais inclus dans Microsoft Bing, ne fasse de l’ombre à son moteur de recherche, Google vient de lever le voile sur Bard. Ce chatbot intelligent, capable de répondre aux interrogations des internautes et de générer du texte, sera bientôt intégré au moteur de recherche Google.
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— Google (@Google) February 6, 2023
Pour offrir un aperçu des possibilités offertes par Bard, Google a publié quelques exemples d’interactions sur son site web et ses réseaux sociaux. On y trouve notamment la capture d’écran d’un échange concernant le télescope spatial James Webb. La question posée à Bard est la suivante :
« Quelles sont les découvertes du télescope spatial James Webb dont je peux parler à mon enfant de neuf ans ? ».
En réponse, l’agent conversationnel fournit une liste de trois informations. Bard affirme par exemple que le télescope « a pris les toutes premières photos d’une planète en dehors de notre propre système solaire ». Et c’est complètement faux. En vérité, la première image d’une exoplanète a été enregistrée en 2004, soit 17 ans avant le lancement du télescope James Webb. L’information est visible sur le site web officiel de la NASA. La première photo a été prise par le télescope VLT Yepun à l’observatoire Paranal.
Not to be a ~well, actually~ jerk, and I'm sure Bard will be impressive, but for the record: JWST did not take "the very first image of a planet outside our solar system".
the first image was instead done by Chauvin et al. (2004) with the VLT/NACO using adaptive optics. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
— Grant Tremblay (@astrogrant) February 7, 2023
Par contre, le télescope James Webb a découvert une exoplanète, de la taille de la Terre, il y a seulement quelques semaines. C’est probablement cet événement qui est à l’origine de la confusion de Bard. Plusieurs férus d’astronomie ont taclé la réponse de Bard, et rétabli la vérité, sur Twitter, rapporte The Verge.
À lire aussi : Devenir riche avec ChatGPT, c’est la nouvelle promesse des influenceurs
Une erreur typique des IA génératives
Cette méprise est symptomatique des intelligences artificielles génératives. Parfois, les chatbots génèrent des informations factices sur base des données disponibles. En effet, ChatGPT invente ses réponses en fonction des questions posées par l’internaute. Si votre requête part d’un postulat erroné, il y a des chances que la réponse contienne des éléments fictifs. Par exemple, il est possible de pousser le chatbot à comparer les œufs de poule à ceux d’une vache. Sur son site web, OpenAI met d’ailleurs en garde les internautes en ces termes :
« ChatGPT n’est pas connecté à Internet et peut parfois produire des réponses incorrectes ».
Interrogé par nos soins, ChatGPT fait par contre preuve d’une confiance un peu étonnante. Quand on lui demande s’il peut de temps en temps raconter des choses erronées, il assure être « conçu pour générer des réponses factuelles » basées sur les informations avec lesquelles il a été entraîné. Il admet cependant qu’il est « possible que je fasse des erreurs ou que mes réponses soient incomplètes en raison de limitations dans mes données d’entraînement ou de mes algorithmes ».
« Il est toujours important de vérifier les informations avec d’autres sources fiables », résume ChatGPT, soufflant le chaud et le froid dans sa réponse.
Plutôt que de consulter une base de données pour répondre à la question, les chatbots génèrent des réponses en s’appuyant sur les mots les plus probables liés au sujet. En l’occurrence, Bard a trouvé que des termes comme « planète en dehors du système solaire » et « découverte » étaient probablement en lien avec le télescope James Webb.
En réaction à cette gaffe monumentale, Google s’est engagé à améliorer la fiabilité des résultats grâce au programme Trusted Tester. L’initiative consiste à vérifier les informations fournies par l’IA grâce à une équipe de testeurs triés sur le volet. Les retours de ceux-ci seront utilisés pour optimiser le fonctionnement de Bard. Interrogé par The Verge, le géant de la recherche déclare :
« Nous combinerons les commentaires externes avec nos propres tests internes pour nous assurer que les réponses de Bard répondent à des exigences élevées en matière de qualité, de sécurité et de pertinence ».
De son côté, Microsoft a préféré se montrer prudent. La firme de Redmond a ajouté une clause de non-responsabilité à la nouvelle version de Bing. Bien que l’IA de Bing soit connectée à Internet, et génère ses réponses sur base de sources fiables, Microsoft recommande de « vérifier les faits avant de prendre des décisions ou de prendre des mesures en fonction des réponses de Bing ».
« Bing tente de baser toutes ses réponses sur des sources fiables, mais l’IA peut faire des erreurs et le contenu tiers sur Internet n’est peut-être pas toujours précis ou fiable », admet Microsoft.
Pour l’heure, on ne peut donc pas faire aveuglément confiance aux robots conversationnels, aussi sophistiqués soient-ils…
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : The Verge
Je peux assurer que les jeunes chercheurs sont capables (coupables ?) eux aussi de ce genre d’erreurs. Aujourd’hui, dans la bibliographie des publications scientifiques, il arrive qu’on oublie de citer ce qui a été publié dans les décennies antérieures. C’est sans doute pour ne pas “alourdir” le propos ? 🙂
Signé : un vieux chercheur.
A noter que la réponse de chatGPT à la même question n’est pas meilleure :
—
Voici quelques informations simples que vous pouvez partager avec votre enfant de neuf ans à propos du télescope spatial James Webb :
Le James Webb est un télescope spatial très grand et très puissant qui est en train d’être construit pour remplacer le télescope Hubble.
Il sera capable de voir des choses très éloignées dans l’espace, comme les étoiles et les planètes qui se forment autour d’elles.
Le James Webb sera en mesure de voir à travers les nuages de poussière dans l’espace pour mieux comprendre comment les planètes se forment et comment les galaxies se développent.
Le télescope est équipé d’un miroir très grand qui peut capturer beaucoup de lumière, ce qui lui permet de voir des objets très lointains et très faibles.
En utilisant le James Webb, les scientifiques pourront mieux comprendre l’univers et découvrir de nouvelles choses à propos des étoiles, des planètes et de la vie dans l’espace.
Je suis sûr que ces informations vous aideront à expliquer les découvertes du télescope James Webb à votre enfant de neuf ans d’une manière simple et amusante.
A noter que la réponse de chatGPT n’est pas meilleure, il pense que le télescope en question est encore en construction.
Ce n’est pas une erreur. Il est précisé que ChatGPT est basé sur des informations qui ne dépassent pas 2021. Tout ce qui s’est produit après 2021 est inconnu de ChatGPT.
Les erreurs, ce n’est que le début puisqu’on a tous envie et les entreprises encore plus, de faire confiance aux « IA ». On devrait toujours mettre entre guillemets car les techniques comme les réseaux de neurones,
1- on ne sait pas ce qui s’y passe exactement donc il est impossible de prévoir un résultat. Lire à ce propos l’excellent article de Science & Vie il y a un ou deux ans, la façon dont une « IA » peut être trompée étant elle-même non prévisible, il en résulte des aberrations par exemple avec un simple autocollant sur un panneau qui peut mettre en danger la vie des passagers d’une voiture qui conduit.
2- c’est plus une comparaison avec le fonctionnement de notre intuition qui serait plus juste (voir article Science & Vie sur les recherches sur l’intuition par les spécialistes du cerveau) il n’y a rien d’intelligent.
Mais comme la demande est forte il y a beaucoup d’argent et donc on commence à mettre dans tous les aspects de notre vie les réponses d’un programme dont personne ne peut savoir ce qu’il fait ni garantir de résultat.