Les alertes concernant un développement incontrôlé de l’intelligence artificielle se sont multipliées ces derniers mois. Bill Gates a notamment expliqué que cette technologie, mal utilisée, pourrait provoquer « un milliard de morts », tandis qu’OpenAI, Google et Anthropic travaillent sur leur propre gendarme de l’IA. Et si Sam Altman (OpenAI) a estimé qu’il fallait tout de même accepter certaines conséquences négatives de l’IA, Dario Amodei (Anthropic) a toujours prôné un contrôle strict de cette technologie. Justement, Anthropic vient de mettre à jour la politique d’utilisation de Claude pour éviter les débordements et les utilisations malveillantes de ses IA.
Une nouvelle réglementation pour lutter contre les utilisations malveillantes de Claude
Cette mise à jour de la politique d’utilisation de Claude vise à tenir compte des cas d’abus à haut risque, notamment l’ingérence électorale, le développement d’armes, la surveillance et les utilisations dans les domaines de la santé et de la finance. Dorénavant, tout « comportement abusif ou cruel, persistant et inutile » envers Claude est purement et simplement interdit. L’entreprise explique que si de tels comportements sont constatés, la conversation en cours est fermée instantanément. Le nouveau règlement ne fait par contre pas mention de bannissements.
L’entreprise précise aussi que cette mise à jour de sa politique d’utilisation « ne s’applique qu’aux cas extrêmes, lorsque des utilisateurs agissent cruellement et de manière répétée envers nos modèles, sans raison apparente. Elle ne concerne pas les formes courantes de frustration, de résistance, les thèmes créatifs sombres, ni les tests et recherches sur les modèles ».
Fraudes électorales, suivi de personnes, confection d’armes et robotique
Avec ce nouveau règlement, Anthropic veut lutter contre les contenus de propagandes générés par l’IA, notamment dans le cadre de campagnes politiques et commerciales. Anthropic indique interdire toute forme de fraude ou de perturbation du processus électoral. Cela inclut notamment la diffusion de fausses informations sur les candidats ou les modalités de vote, l’usurpation d’identité de candidats ou de responsables électoraux, ainsi que les tentatives visant à décourager la participation aux élections. Notons que ces changements interviennent à quelques semaines des élections de mi-mandat américaines.
Anthropic annonce aussi de nouvelles restrictions concernant le suivi de personnes à l’aide de l’IA, tout en faisant état d’une utilisation croissante de Claude pour identifier et suivre les « dissidents politiques ». Dorénavant : « Claude ne peut être utilisé pour décider ou recommander qui peut faire l’objet d’une enquête, d’une arrestation ou d’une inculpation dans le cadre d’une procédure policière ou judiciaire. Nous interdisons également l’utilisation de Claude pour concevoir ou améliorer des outils de surveillance ».
L’entreprise de Dario Amodei a toujours strictement interdit la confection d’armes à l’aide de ses IA. Cependant, elle explique avoir constaté un nombre croissant de demandes pour mettre au point des systèmes de guidage et de contrôle d’armes. La vis est donc resserrée à ce niveau. Enfin, le secteur de la robotique se développent à vive allure, Anthropic précise dorénavant que lorsque ses modèles d’IA sont « connectés à du matériel effectuant des actions physiques autonomes et susceptible de causer des blessures », un « opérateur qualifié doit être en mesure d’observer l’équipement et de l’arrêter si nécessaire ». En d’autres termes, un robot potentiellement dangereux intégrant Claude doit être surveillé de très près.
En fin de compte, Anthropic se positionne une nouvelle fois comme l’un des principaux acteurs américains de l’IA en faveur d’une réglementation plus stricte de cette technologie.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Anthropic
