Dans une lettre ouverte, rédigée conjointement par l’Institut pour le progrès et la Fondation pour l’innovation américaine, plusieurs dirigeants d’entreprises spécialisées dans l’intelligence artificielle exhortent les membres du Congrès à adopter de nouvelles lois qui rendraient plus difficile pour les acteurs malveillants de développer des armes biologiques à l’aide de leur technologie. Nous retrouvons parmi les signataires : Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) ou encore Mustafa Suleyman (Microsoft AI).
Une lettre ouverte pour empêcher la création d’armes biologiques à l’aide de l’IA
Une lettre ouverte, signée notamment par Sam Altman (OpenAI) et Dario Amodei (Anthropic), demande des lois qui obligeraient les entreprises vendant de l’ADN et de l’ARN synthétiques à contrôler leurs clients et leurs commandes afin de prévenir toute utilisation malveillante de matériel génétique. Nous pouvons lire dans cette lettre qu’ « il existe une réelle possibilité que les barrières de connaissances qui ont historiquement empêché les acteurs malveillants d’obtenir des armes biologiques s’érodent de manière significative ». Point important : cette lettre ne dit pas que le développement d’armes biologiques va devenir subitement accessible à des personnes qui n’ont pas de connaissance spécifique. Elle souligne plutôt que l’intelligence artificielle pourrait simplifier certaines étapes du processus et faciliter le contournement des réglementations en vigueur. Les demandes sont principalement axées sur un contrôle renforcé des ventes d’ADN et d’ARN par les laboratoires spécialisés, et un renforcement général des processus de sécurité.
David Relman, microbiologiste et expert en biosécurité à l’université de Stanford, mais aussi signataire de la lettre, explique : « Les outils d’IA permettent à un utilisateur d’identifier très rapidement les séquences de commandes [commerciales] qui échapperont aux contrôles. Avec les indications appropriées, ils peuvent également vous indiquer comment modifier la nature de votre commande, de sorte que même les personnes effectuant des contrôles auront beaucoup moins de chances de détecter ce que vous essayez de fabriquer ».
Des risques réels
L’année dernière, Microsoft a publié une étude pour le moins inquiétante. L’entreprise a démontré que des outils de conception de protéines par IA étaient capables de générer des séquences génétiques potentiellement dangereuses, conçues de manière à totalement échapper aux logiciels de dépistage des entreprises. L’IA a réécrit complètement le texte génétique pour le rendre méconnaissable aux yeux des scanners, tout en conservant la forme en 3D redoutable du poison d’origine. Les intelligences artificielles se perfectionnant à vive allure, les risques sont réels. Nous n’allons pas répertorier ici tous les dangers liés aux armes biologiques (la crise du Covid-19 nous a déjà donné un aperçu des conséquences d’une pandémie), mais les signataires n’excluent pas le risque de crises sanitaires mondiales causées volontairement. Ils espèrent donc un renforcement conséquent des mesures de sécurité qui encadrent les fabricants d’ADN synthétique.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Wired
