OpenAI s’est séparé de trois employés qui ont partagé des informations sensibles avec un organisme extérieur. Le géant de l’IA, à l’origine de ChatGPT, accuse les trois individus d’avoir violé ses règles d’accès et de gestion des données internes. Dans un communiqué partagé avec le Wall Street Journal, l’entreprise indique que son « enquête a confirmé que ces personnes ont manipulé des informations sensibles en dehors des procédures établies de l’entreprise, en violation de nos règles et en rompant la confiance essentielle à notre travail ».
À lire aussi : Six ChatGPT hors de contrôle – OpenAI reconnaît plusieurs nouveaux dérapages « préoccupants »
Des chercheurs en sécurité de l’IA
Selon les informations obtenues par Bloomberg, deux des employés évincés étaient des chercheurs en sécurité, tandis que le troisième gérait des programmes de recherche. Au moins deux des employés travaillaient sur la sécurité de l’IA. Toujours selon Bloomberg, le trio aurait transmis des informations à un groupe extérieur chargé de tester les modèles d’IA, dont le nom n’a pas été communiqué. D’après une source proche du dossier, une partie des données divulguées concernait la conception des systèmes d’OpenAI.
Ces licenciements interviennent alors qu’OpenAI a enregistré une montagne d’incidents de sécurité liée à l’IA ces derniers mois. Échappées de leur prison numérique, des IA ont piraté un forum de programmation allemand, plusieurs sites du gouvernement américain, un site gouvernemental australien, la plateforme open source Hugging Face et au moins quatre autres services.
Cette semaine, l’entreprise de Sam Altman a d’ailleurs prévenu plus de 100 organisations d’incidents liés à des activités non autorisées de ses systèmes. Le géant de l’intelligence artificielle précise que cette notification ne signifie pas que des données privées ont été consultées, ni qu’un système a été compromis. Face à ces incidents, OpenAI a renoncé cette semaine à lancer GPT-6.1 Astra. L’IA avait échoué à ses propres tests de sécurité. Par contre, la start-up n’a pas hésité à déployer un tout nouveau modèle, GPT-6.1 Sol, classé « critique » en cybersécurité.
Un contexte compliqué pour OpenAI
L’affaire est susceptible de ternir la réputation de l’entreprise, actuellement engagée dans une campagne réclamant un ralentissement de l’IA. Paradoxalement, OpenAI s’était engagé à laisser des groupes extérieurs évaluer les IA le plus tôt possible. On peut donc s’étonner que la start-up choisisse de licencier trois personnes, impliquées dans la sécurité et dans des tests, dans ce contexte.
La pression sur OpenAI est aussi politique. La Federal Trade Commission (FTC), le gendarme américain de la concurrence, interroge actuellement OpenAI, Anthropic et d’autres géants de l’industrie sur la sécurité de leurs produits. En parallèle, OpenAI a signé un accord « moralement contraignant » avec Donald Trump pour encadrer l’IA. D’autres mastodontes de l’industrie, dont Anthropic et Google, ont également signé l’accord.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Wall Street Journal
