Avec l’intelligence artificielle, il est désormais très facile de générer n’importe quel type d’images réalistes, et certains petits malins ont bien compris tout l’intérêt qu’il pouvait y avoir à vendre (ou à truffer de pubs) des applications vantant des fonctions pour « dénuder » n’importe quel individu. Il suffit de téléverser une photo, l’IA s’occupant de recomposer le corps de la personne en question.
Le fléau des apps IA
Ces apps, présentées comme des « générateurs artistiques », font florès sur les boutiques d’Apple et de Google, mais suite à une enquête du site 404 Media, la firme à la pomme a retiré des rayons de l’App Store trois représentants du genre. Mais uniquement les applications visées par l’enquête : « l’entreprise n’a pas été capable de trouver les apps qui enfreignaient les conditions d’utilisation de la boutique », explique le site.
Pour repérer les applications malveillantes, Apple pourrait surveiller les publicités publiées par ces dernières sur Instagram. Elles ne font pas de chichis en promouvant explicitement la possibilité de dénuder une personne. C’est ainsi que 404 Media les a détectées.
Google n’est pas en reste, le moteur de recherche ayant retiré une application permettant d’intégrer le visage d’une personne sur le corps d’une autre. Les opérateurs des boutiques ont visiblement la volonté de chasser ces apps, mais c’est un véritable jeu du chat et de la souris qui s’ouvre avec les éditeurs de ces apps.
L’affaire est d’autant plus importante que ces applications peuvent être des armes dans les mains de harceleurs, et représenter de véritables dangers pour la santé mentale, en particulier chez les plus jeunes.
Lire Pourquoi les victimes de deepfakes peinent à faire disparaître ces contenus du Web
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : 404 Media
