Passer au contenu

Aux prémices de l’IA de Facebook : deux Français tournés sur le cognitif

Grâce à leur place respective, leur formation et leur sensibilité, ils ont poussé Meta à s’inspirer des sciences cognitives pour développer le concurrent de ChatGPT et de Bard. Un concurrent qui ne reposera pas sur la même logique conversationnelle.

Jérome Pesenti, patron de la division IA de Meta, et Yann LeCun, le chef scientifique, ont travaillé de pair sur un agent conversationnel du nom de JEPA (pour « Joint Embedding Predictive Architecture »). Comme chez d’autres entreprises de la tech américaine, ils ont prouvé par leur place le rôle stratégique des Français dans le développement de l’intelligence artificielle aux États-Unis. Jérome Pesenti a 49 ans, Yann LeCun 63 ans, l’un a contribué au programme Watson d’IBM quand l’autre a remporté le Prix Turing, qui récompense les plus grosses contributions au milieu informatique.

Dans leur parcours respectif, les deux Français ont travaillé ensemble sur l’IA de Facebook pendant 5 ans. Mais tout s’est accéléré ces deux dernières années avec la révélation des premières lignes de leur technologie et la compréhension de l’entreprise qu’il ne fallait pas tout investir sur le métavers. Yann LeCun est le plus expérimenté des deux chez Facebook, alors qu’il avait répondu favorablement à une invitation personnelle de Mark Zuckerberg en 2013 pour rejoindre le projet. Il avait précédemment refusé une demande similaire chez Google. Jérome Pesenti a quitté Meta en juin 2022 à la suite de la réorganisation du pôle sur l’IA, décentralisé.

« Les humains ont du bon sens »

Le mois dernier, c’est à travers sa participation à la levée de fonds spectaculaire de Mistral AI, une (très) jeune startup française dans l’intelligence artificielle déjà valorisée 260 millions d’euros, que Yann LeCun s’est de nouveau illustré. Au même moment, il publiait un billet de blog levant le voile sur une nouvelle approche des outils générateurs d’images, I-JEPA, en complément de l’outil conversationnel JEPA. Plus proche du cerveau humain, il ne ferait pas les mêmes erreurs. De là même à dire que « l’IA d’aujourd’hui et l’apprentissage automatique sont vraiment nuls. Les humains ont du bon sens alors que les machines, non », disait-il sans filtre.

« Pas particulièrement innovant » selon Yann LeCun, ChatGPT tout comme le modèle de Bard par Google nécessitent d’importantes ressources tant ils se basent sur une quantité colossale de données. L’IA de Facebook, elle, n’en a pas besoin. Pour pouvoir concevoir des réponses et discuter avec l’humain, la machine s’inspirera… de l’humain. Et notamment de son aspect cognitif, sa capacité de logique, l’un des points qui séparent actuellement l’IA des humains dans leurs réponses. Plutôt que de se baser essentiellement sur des suites de mots, I-JEPA de Facebook se basera sur des modèles abstraits.

Difficile à voir de l’extérieur à quel point les deux Français ont influencé la direction de la stratégie de Facebook. Le projet I-JEPA est présenté comme une initiative de Yann LeCun, qui a commencé à l’évoquer en interne chez Facebook il y a seulement un an. L’année précédente, il faisait la même chose avec l’outil conversationnel JEPA. Avant cela, très peu d’archives… rappelons que Facebook donnait avant tout la priorité au développement de son métavers jusqu’à se résigner au mois de février dernier et prendre la voie de l’IA. Même Yann LeCun, il y a sept ans, voyait l’IA comme une montagne.

Machine Learning ou deep learning ?

Jérome Pesenti, qui était à la tête de l’opérationnel, n’a pas suivi les pas de Yann LeCun et dirigé des travaux plus proche de ce que l’on connaît présentement de l’IA, autrement dit en passant par du machine learning (et non pas le deep learning, plus proche de l’approche cognitive du cerveau humain). Un premier produit est d’ailleurs sorti : un programme d’IA pour aider les annonceurs à créer de meilleures publicités en ligne.

Cela dit, Jérome Pesenti est comme Yann LeCun : tous les deux ont fait un pas de côté sur l’ingénierie et l’informatique pour mieux s’inspirer de l’humain. Yann LeCun a poursuivi son doctorat sur l’apprentissage des réseaux neuronaux, et Jérome Pesenti a complété sa formation en mathématiques pures, de diplômes en philosophie et en sciences cognitives. Il s’est aussi spécialisé dans l’IA aux services de la santé.

« Les méthodes génératives se concentrent trop sur des détails, au lieu de capturer des concepts d’ensemble », ajoutait Yann LeCun le mois dernier. Même si le marché des microprocesseurs tend à se montrer à la hauteur pour accompagner le nouveau besoin informatique pour l’IA, les ingénieurs de Facebook ont bien compris que la conception des modèles déterminera aussi bien les performances des intelligences que leur rapidité et leur coût énergétique. Yann LeCun restera aux avant-postes, lui qui laissait son poste de leader à Jérome Pesenti pour « se concentrer sur la direction scientifique et technique et sur la stratégie ».

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.


Votre opinion
  1. Pour l’instant à part de critiquer et minimiser gtp ou bard, méta n’a rien montré de concret depuis pas mal de temps.
    Lecun mène une campagne de dénigrement des produits de openai et de Google qui sont loin devant. Facebook s’est fourvoyer dans le metavers , ne sont-ils pas entrain de se perdre de nouveau dans le domaine des ia.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *