Passer au contenu

Pillages du 17 octobre : la police nationale fait polémique avec une photo de saisie retouchée par IA

La Police Nationale du Val d’Oise a publié une image de produits pillés durant les manifestations du 17 octobre. Il s’agit d’une image générée par IA, mais qui n’est pas totalement fausse. Explications.

Ces 17 et 18 octobre, environ 3 000 commerces ont été touchés et beaucoup ont été pillés. Vinted et Leboncoin sont inondés d’annonces de produits volés et de fausses cagnottes de soutien aux commerçant apparaissent. Parmi tout ce bazar, la police traque et arrête les pilleurs et receleurs. Dans le Val d’Oise, la Police Nationale en a attrapé 12 et a présenté les produits mis à la revente. Sauf que l’image des produits publiée a été générée par intelligence artificielle, bien que les produits existent.

La Police nationale publie une image générée par IA : les internautes le remarquent et font monter la polémique

C’est sur X ce 20 octobre que le compte de la Police Nationale du Val d’Oise a publié une image. On y voit des vêtements et des jeux vidéo exposés, résultats de l’interpellation de 12 receleurs dans le département. Cependant, des détails clochent : les logos des marques sont pleins de défauts, et les écritures sur la jaquette d’Elden Ring Nightreign sont assez étranges.

En passant l’image dans l’outil de vérification d’OpenAI ou de Google DeepMind, on remarque qu’elle a été générée avec les outils d’OpenAI. C’est même OpenAI qui le dit. En effet, il apparaît sur cette photo un filigrane SyntID provenant d’OpenAI : la photo a bel et bien été retouchée ou générée avec ChatGPT. Depuis quelques jours, il est possible d’utiliser ces outils SynthID gratuitement. Pour rappel, SynthID est une technologie développée par Google DeepMind qui ajoute des filigranes numériques invisibles sur les contenus générés par IA. Cela permet de les détecter plus tard, notamment pour démonter des fake news. SynthID fonctionne sur l’audio, la vidéo et les images, comme c’est le cas ici.

La police dément et donne la véritable explication

Il n’en fallait pas moins pour que des centaines d’internautes soient scandalisés sur X. Le tout dans un contexte de défiance d’une partie de la population envers la police, accusée de violences et de corporatisme. Beaucoup sous le premier tweet dénoncent en effet une manipulation de la part de la police, qui fabriquerait de fausses preuves pour justifier des interpellations de manifestants et de casseurs ou pilleurs.

Police Nationale Image Non Générée Par Ia Démenti
L’image originelle qui a ensuite été retouchée par IA © Police Nationale

Le lendemain, le compte officiel de la Police Nationale a publié un démenti : « Cette photo n’est pas une création 100% IA. » Le compte explique que sa section du Val d’Oise a modifié une image à l’aide d’une application d’IA « afin d’être recadrée et d’en retirer les éléments superflus (chaises et climatiseur). » Le tout sans publier de réponse en dessous du premier tweet. Mais le mal est fait : la publication originale a dépassé le million de vues en moins de 24 heures, quand la publication du démenti en compte près de quatre fois moins.

👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.