Signé par des représentants d’Huawei, le rapport dévoilé par le Washington Post montre que le géant des télécoms a travaillé en 2018 avec la start-up de reconnaissance faciale Megvii. Objectif : tester un système de vidéosurveillance gouvernemental capable de scanner des visages au milieu d’une foule et d’estimer l’âge, le sexe et l’ethnicité de chaque personne. Si le logiciel détecte le visage d’un membre de la minorité ouïghoure majoritairement musulmane, le document interne indique qu’il peut déclencher une « alarme ouïghoure » – un signal pour la police chinoise. Trouvé sur le site Web de Huawei, le rapport d’essai a été retiré peu de temps après que le quotidien américain a demandé aux entreprises de commenter.
Réel mais pas raciste ?
Les deux entreprises chinoises ont reconnu que le document était véritable. Peu après la publication de l’article mardi 8 décembre, le porte-parole de Huawei, Glenn Schloss, a déclaré que le rapport « était simplement un test et qu’il n’a pas été appliqué dans le monde réel. Huawei ne fournit que des produits d’usage général pour ce type de tests. Nous ne fournissons pas d’algorithmes ou d’applications personnalisées ». En parallèle et toujours après la publication mais, un porte-parole de Megvii a assuré que les systèmes de l’entreprise n’étaient pas conçus pour cibler ou étiqueter des groupes ethniques.
Après la publication, cette fois, de cet article, Huawei France a tenu à rappeler que « l’entreprise n’était pas impliquée dans le développement des couches d’application qui définissent la façon dont cette technologie est utilisée », dans un mail en insistant sur le fait qu’elle respectait « les standard internationaux en termes d’IA » et « les droits fondamentaux de l’Homme ».
Du côté des autorités chinoises, personne n’a nié. Les responsables interrogés ont affirmé au Washington Post que ces systèmes montraient les progrès technologiques du pays et que leur utilisation élargie pouvait aider le gouvernement à assurer la sécurité du peuple.
Le rêve chinois du tout-contrôle
Mais pour les défenseurs des droits humains, ils reflètent surtout le rêve du pouvoir central chinois du tout-contrôle : un outil pour identifier les citoyens dissidents et de les écraser. Les chercheurs en intelligence artificielle (IA) ont également déclaré craindre que le développement et la normalisation de cette technologie ne conduisent à sa diffusion dans le monde entier.
John Honovich, le fondateur de l’IPVM, une société américaine spécialisée dans les équipements de vidéosurveillance qui a transmis le document au journal, a déclaré que le document montrait comment la reconnaissance faciale est devenue « totalement normalisée ». Ce qu’il qualifie de « terrifiant ».
« Il ne s’agit pas d’une entreprise isolée. C’est systématique. Ils ont beaucoup réfléchi à la façon de s’assurer que cette “alarme ouïghoure” fonctionne », a-t-il expliqué au journal américain.
Un outil répressif à la portée de tous les gouvernements
C’est précisément cette normalisation qui peut faire craindre le pire. Interrogée par le Washington Post, Maya Wang, une chercheuse reconnue en Chine membre de l’ONG Human Rights Watch, estime que son pays utilise de plus en plus la surveillance assistée par l’IA pour opprimer les minorités, les manifestants et d’autres personnes considérées comme des menaces pour l’État mais aussi pour surveiller le grand public.
« L’ambition de la Chine en matière de surveillance va bien au-delà de la persécution des minorités », a-t-elle affirmé. Mais « la persécution des minorités n’est évidemment pas exclusive à la Chine. Et ces systèmes se prêteraient très bien aux pays qui veulent criminaliser les minorités. »
Même si la loi relative à la sécurité globale en France ne mentionne pas de tel système de vidéosurveillance, la tentation sécuritaire est grande… et la boîte de Pandore pourrait bien s’ouvrir, expliquent les militants de La Quadrature du Net. Certains politiques comme Christian Estrosi en sont les fervents partisans, et ce, malgré les mises en garde de la Commission nationale de l’informatique et des libertés.
*L’article a été mis à jour vendredi 11 décembre à 16h47 avec la réaction de Huawei France.
Source : The Washington Post
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
