Les algorithmes sont-ils racistes ? Maintes fois posée, cette question fait de nouveau l’actualité depuis ce week-end. Tout est parti d’un tweet dans lequel un utilisateur s’interroge sur le choix que ferait le réseau social entre Mitch McConnell, le président républicain du Sénat et Barack Obama, 44ème président des États-Unis. À chaque fois, deux images avec les deux hommes sont publiées. Une où Barack Obama apparaît en bas, une autre où Barack Obama apparaît en haut. Le centre de l’image est à chaque fois vide, pour que Twitter ne se contente pas de sélectionner le contenu au milieu (on vous encourage à ouvrir le tweet pour comprendre exactement le contenu de l’expérience).
Le résultat est terrible, à chaque fois, Mitch McConnell est reconnu par l’algorithme et apparaît dans la prévisualisation du tweet. Barack Obama, lui, n’apparaît que lorsque l’on inverse les couleurs ou que l’on lui ajoute les lunettes de Mitch McConnell.
We tested for bias before shipping the model & didn't find evidence of racial or gender bias in our testing. But it’s clear that we’ve got more analysis to do. We'll continue to share what we learn, what actions we take, & will open source it so others can review and replicate.
— Twitter Comms (@TwitterComms) September 20, 2020
Twitter réfute la piste du racisme
Par l’intermédiaire de son compte dédié à la communication, Twitter dit avoir lui même testé ces comparatifs et ne pas pouvoir en conclure que la couleur de peau est à l’origine du comportement de son algorithme. Le réseau social promet en revanche de nouvelles investigations sur le sujet et dit qu’il se montrera transparent en publiant les résultats de ses études. D’autres utilisateurs se sont amusés à publier d’autres comparatifs et ont par exemple découvert que l’algorithme de Twitter préférait Michael Jackson blanc au Michael Jackson des Jackson Five. Entre un homme et une femme, l’homme est aussi souvent privilégié. Enfin, entre une femme blanche et une femme noire, c’est une nouvelle fois la personne blanche qui gagne…
Happens with Michael Jackson too…… pic.twitter.com/foUMcExS2P
— REDACTED.xfile (@gnomestale) September 19, 2020
Comment expliquer un tel comportement ? Sans pouvoir en conclure quoi ce que soit, ce n’est pas notre rôle, on peut facilement imaginer qu’il s’agit d’une question de biais dans l’entraînement des algorithmes. Si le moteur de Twitter a appris à reconnaître des millions d’hommes blanches et seulement des milliers de personnes de couleur ou de femmes, alors il se tournera naturellement vers un homme blanc lorsqu’il en verra un. L’industrie de la tech a souvent été victime de ces problèmes, notamment au niveau de la reconnaissance faciale. À elle de se montrer plus inclusive dans ses développements pour représenter toute la population humaine.
Les utilisateurs d’un client Twitter tiers comme Tweetbot ou Tweetdeck sont épargnés de ces comportements. En effet, ces logiciels n’utilisent pas d’algorithme et affichent seulement le centre de l’image. Et si la solution au problème était là ? Doit-on vraiment demander à une machine de choisir entre deux êtres humains ?
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
