Ingérence, manipulation du vote... Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom

Les autorités françaises pourront-elles agir rapidement si de fausses informations sont déployées à grande échelle sur les plateformes en ligne et sur les chatbots d’intelligence artificielle générative (ChatGPT, Gemini, Le Chat) pendant la présidentielle de 2027 ? La question est « au cœur de nos préoccupations », a reconnu mardi 19 mai Martin Ajdari, à la tête de l’Arcom.

Le patron du régulateur français du numérique et de l’audiovisuel présentait son projet stratégique à horizon 2026-2028 : parmi les douze grandes priorités des deux prochaines années, le gendarme des plateformes en ligne a décrit « l’urgence d’une plus forte responsabilisation » de ces acteurs allant des réseaux sociaux aux plateformes de streaming, en passant par les sociétés d’IA, en particulier dans un contexte d’élection en 2027 dans lequel les « manipulations de l’information (…) (pourraient) se déplo(yer) à une échelle inédite, à des fins de monétisation publicitaire ou de déstabilisation politique ».

Avec l’élection présidentielle prévue l’année prochaine, l’Arcom a indiqué qu’elle surveillerait de près les « systèmes d’IA à risque ». Le président de l’autorité est revenu sur « le développement extrêmement rapide de l’intelligence artificielle » et des chatbots IA comme ChatGPT, Gemini, Anthropic ou Le Chat, auxquels « 85 % des 15-24 ans ont recours, et je crois même plus de 40 % tous les jours ». Une étude publiée cette semaine par Terra Nova indique que 16 % de nos concitoyens demandent à « une intelligence artificielle empathique pour qui voter », a rappelé Martin Ajdari.

À lire aussi : Présidentielle 2027 : ChatGPT ou Gemini pourrait « influencer l’ultime choix de plusieurs millions de Français », selon cette étude

Un stress test mis en place à l’automne prochain

« Comment les agents conversationnels peuvent interférer (…) avec les processus électoraux, c’est une œuvre législative et de traduction législative qui reste encore à faire », a souligné l’homme à la tête de l’Arcom depuis dix-huit mois.

Outre l’épineux sujet de l’influence de ces systèmes sur le vote, les chatbots IA vont-ils par exemple respecter la période de réserve (du vendredi minuit au jour de l’élection) pendant laquelle les candidats et leurs équipes sont astreints au silence ? « Comment est-ce que collectivement, on va faire pour informer les publics qu’il y a une ingérence et qu’il y a des fausses informations qui circulent ? C’est notre inquiétude. On a une zone là qui est complexe à gérer », a reconnu Delphine Ernotte, la présidente de France Télévisions, qui était dans l’auditoire lors de la présentation du projet stratégique de l’Arcom.

Côté plateformes en ligne, l’Arcom a rappelé qu’elle travaillait déjà en amont avec ces acteurs, avec des rappels des règles à la clé. Viginum « a, de son côté, des moyens pour caractériser des ingérences étrangères ». L’autorité a aussi indiqué qu’un stress test serait mis en place à l’automne prochain.

À lire aussi : Ingérence, faux sondage, manipulation : l’Arcom rappelle les règles du jeu à Snap, Instagram et X avant les élections municipales

Mais pour Benoit Loutrel, qui préside le groupe de travail « Plateformes en ligne » de l’Arcom, « on a déjà en place maintenant un réseau de coopération et de protection des élections. Et la principale mission, ça sera de détecter d’éventuelles ingérences, y compris sur les chatbots. Et là, on n’a pas besoin de texte pour se mobiliser, pour apprendre justement à réagir si on doit faire face à ce type de menaces ».

Bientôt une responsabilité éditoriale des chatbots IA ?

Martin Ajdari est aussi revenu sur la responsabilité éditoriale des acteurs de l’IA. Si, pour les plateformes en ligne, le DSA (le règlement européen sur les services numériques) a fait évoluer les choses en instaurant « une responsabilité renforcée avec des obligations de moyens renforcées (…), même si ce n’est pas (une responsabilité) éditoriale », la question se pose « de manière plus évidente pour les services d’IA générative, sans doute ».

« Il est quand même difficile de dire qu’un service (comme ChatGPT, Anthropic ou le Chat, NDLR) qui ne se réfère plus à ses sources, (et qui) ne les met pas forcément en évidence, n’a pas une responsabilité éditoriale dans ce qu’il dit et dans ce qu’il diffuse comme message », a souligné le patron de l’Arcom.

L’Arcom est également revenue sur l’obligation de vérification de l’âge par les sites pornographiques, qui a permis de réduire de moitié le temps passé par les mineurs sur les plateformes X, selon son président. Désormais, « des services pornographiques disposant d’une audience plus limitée, et susceptibles de bénéficier d’un report de fréquentation » sont ciblés, à l’image du site Xgroovy.

Mais surtout, l’objectif est « d’obliger les plateformes à proposer des services réellement adaptés aux mineurs, c’est-à-dire expurgés de tout ce qui est susceptible de les mettre en danger. C’est vraiment le nerf de la guerre car il s’agit de faire évoluer la conception même » de la plateforme, a-t-il ajouté. L’Arcom compte s’appuyer sur la Commission européenne, en charge de faire respecter le DSA aux grands réseaux sociaux. Les enquêtes ouvertes pour soupçon de violation de ce règlement européen visant TikTok et Snapchat devraient aboutir dans les prochains mois.

L’une des priorités de l’Arcom ces deux prochaines années sera d’ailleurs de faire respecter « l’âge minimum d’accès aux réseaux sociaux prévu par les CGU (conditions générales d’utilisation NDLR) des plateformes et peut-être dans quelques mois par la loi ». Le gouvernement souhaite mettre en place une majorité numérique pour l’accès aux réseaux sociaux dès le mois de septembre, mais la proposition de loi est toujours en cours d’adoption.

Piratage : « des mesures de blocage IP » avant l’été

Le régulateur français a enfin expliqué qu’il allait renouveler ses dispositifs de lutte contre le piratage. L’Arcom va « impliquer davantage d’intermédiaires dans nos mesures de lutte contre le piratage », à l’image des VPN, des DNS alternatifs, directement impliqués dans les demandes de blocage des ayants droit.

À lire aussi : Nouvelle victoire de Canal Plus : pour regarder la Formule 1, les internautes ne pourront plus passer par des VPN et de l’IPTV illégale

Après « la procédure de réponse graduée » mise en place en 2009 qui « a permis en une quinzaine d’années de réduire de 80 % les pratiques de piratage en pair à pair », mais qui « n’a probablement pas vocation à se poursuivre » – le dispositif a été invalidé par le Conseil d’État fin avril – l’autorité s’attelle à mettre en place « des mesures de blocage IP », un dispositif de blocage dynamique en temps réel des adresses IP. « Nous, on se tient prêts à le mettre en place à court terme, avant l’été (…) », a précisé Pauline Combredet-Blassel, directrice générale adjointe de l’Arcom.

Le régulateur français a profité de l’occasion pour réclamer plus de moyens, en particulier du fait des nouvelles missions confiées à l’Arcom depuis 2022 élargies à celles « héritées historiquement du CSA et de la Hadopi ». Si, au titre du DSA, le règlement européen sur les services numériques, « nous avons obtenu une vingtaine d’emplois supplémentaires », ce chiffre est sensiblement « moins élevé que nos principaux homologues européens, ce qui n’est, je dois le dire, pas à la hauteur des enjeux ».