Comment la fondation Mozilla veut créer une IA de confiance pour nous sauver des géants de la tech

Une start-up dont le champ d’action est l’intelligence artificielle et qui lève 30 millions de dollars. C’est le genre d’information que 01net.com ne traite pas habituellement. Parce qu’il y en a des dizaines, qui réalisent des levées de fonds bien plus importantes, chaque jour. Pourtant, cette fois, la donne est différente. La start-up en question est fondée par la Fondation Mozilla, et s’appelle d’ailleurs Mozilla.ai. La structure, qui œuvre notamment pour développer Firefox, veut en faire une start-up, mais aussi et surtout peut-être une communauté. Avec un objectif précis et précieux : « concevoir un écosystème d’intelligence artificielle de confiance, indépendant et open source. »

L’ombre de la révolution des smartphones et des applis

L’enjeu est de taille et relève presque du traumatisme pour la fondation. Mozilla n’a pas su prévoir et accompagner la révolution des smartphones, ni le raz de marée des applications et la menace que tout cela fait peser sur un Web libre. Mais le défenseur de l’open source ne commettra pas la même erreur concernant les intelligences artificielles, dont l’ouverture et les ambitions non lucratives font généralement long feu… On glissera ici une pensée pour OpenAI, par exemple, dont le modèle économique a bien changé depuis ses débuts, et Microsoft n’y est pas pour rien. Mais, GPT-4 ou Midjourney ne sont que la partie émergée, celle qui est exposée aux feux médiatiques. Or, les outils mus par l’intelligence artificielle et qu’on côtoie au quotidien, comme le moteur de recommandation de YouTube, de TikTok ou ceux à l’œuvre dans des réseaux sociaux comme Facebook, influencent des milliards de vies. Et, à chaque fois, les mêmes questions se posent. Mozilla en liste quelques-unes. « Qu’est-ce que permettent les IA ? Comment les gens peuvent-ils en profiter ? », mais aussi « qu’est-ce qui pourrait mal tourner ? » ou « comment gérer cette situation ? ». Parce que, comme l’écrit Mark Surman, Web activiste et directeur exécutif de la fondation Mozilla, dans le post d’annonce de Mozilla.ai, « deux décennies de médias sociaux, de smartphones et leurs conséquences nous ont échaudés ».

Un cheminement lent mais certain

Mozilla s’interroge sur ces points depuis quelque temps désormais et les réponses semblent prendre une forme commune : une IA de confiance. L’idée et le constat ne sont pas nouveaux. En 2018 déjà, la fondation pointait dans cette direction et souhaitait alors maintenir le Web ouvert et libre dans un monde de big data. Deux ans plus tard, en décembre 2020, Mozilla constatait qu’il « serait facile de partir dans la mauvaise direction ». À l’époque, pour cadrer l’effort d’une communauté de « technologues, de chercheurs, de législateurs, d’avocats et d’activistes », qui entendaient défendre un monde où l’IA est au service de tous, évitant les biais, grâce à des lois éclairées, la Fondation publiait un livre blanc intitulé : « Créer une IA digne de confiance », avec un sous-titre explicite, « un livre blanc de Mozilla sur les défis et les opportunités à l’ère de l’IA ».

Y étaient listés les défis qui parsèment la route d’une intelligence artificielle de confiance : la centralisation des IA et les monopoles, les enjeux de vie privée, les biais et les discriminations, le besoin de transparence et de responsabilité des acteurs, la nécessité d’édicter des normes, la protection vitale des travailleurs de l’IA et de l’environnement, et, enfin, les questions de sécurité. À chaque fois, l’objet premier est l’humain, qui doit être placé au centre des préoccupations. Mozilla indiquait aussi investir plus de 20 millions de dollars par an dans des start-up travaillant dans le domaine de l’intelligence artificielle.

Le besoin d’un contrepoids

Aujourd’hui, un peu plus de deux ans plus tard, Mozilla a donc fait un point sur la situation et reconnaît que cette dernière vague d’IA, celle de ChatGPT, notamment, « a un potentiel énorme pour enrichir la vie des gens ». Mais, car il y a toujours un mais, « cela n’arrivera que si nous concevons la technologie très différemment », avec les utilisateurs au cœur du problème, avec transparence et responsabilité. La Fondation se félicite d’avoir rencontré sur son chemin des fondateurs de start-up, des ingénieurs, des scientifiques, des designers, des artistes qui ont cette approche de l’IA. « Des personnes investies qui construisent des intelligences artificielles open source, qui testent de nouvelles approches pour auditer et trouver le moyen de construire la « confiance » dans les IA du monde réel. »

Mais la Fondation Mozilla regrette aussi que cette prise de conscience, ces nouveaux comportements, n’existent pas ou trop peu dans les grandes entreprises de la tech et du cloud, celles qui ont le plus de puissance et d’influence. Or, « pendant ce temps, ces acteurs continuent de renforcer leur contrôle sur le marché. […] Autrement dit, certaines personnes commencent à agir différemment, mais la plus grosse partie du travail (et des investissements) continuent de suivre les vieilles façons de faire. » Et Mozilla veut « changer cela ».

L’Humanité au cœur de la technologie

C’est pour ça que Mozilla.ai a été créée : afin de faciliter la tâche de ceux qui veulent mettre l’IA au service de tous, et pas de quelques géants de la tech. « La vision de Mozilla.ai est d’aider au développement de produits d’intelligence artificielle dignes de confiance. ». Des produits ouverts, transparents, responsables… Pour cela, la jeune société développera des projets, embauchera des experts, et collaborera avec d’autres acteurs pour partager sa vision. La Fondation Mozilla veut créer une troisième voie, hors du monde académique et des big tech, avec l’espoir de renverser la vapeur, les tendances actuelles, de créer « un contrepoids pour ébranler le statu quo » actuel.

Pour commencer, Mozilla.ai va s’atteler à créer « des outils pour rendre les IA génératives plus sûres et plus transparentes ». Une bonne idée à l’heure où le patron même d’OpenAI, la société à l’origine de ChatGPT, dit s’inquiéter de ce que pourrait devenir son IA. La Fondation indique d’ores et déjà que les premiers pas significatifs devraient être réalisés dans les prochains mois. Espérons que Mozilla réussira, cette fois-ci, car si le Web libre malmené a déséquilibré la tech au profit de quelques grands noms, le même phénomène appliqué aux intelligences artificielles auraient des effets bien plus délétères, parce qu’omniprésents. À l’heure où l’Europe réfléchit à un cadre législatif sur l’IA, il est temps que la notion de confiance occupe la place qui lui revient, au cœur de notre futur.

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.

Source : Blog de Mozilla