Passer au contenu

« Un film de science-fiction » : le documentaire Netflix sur le piratage de ChatGPT sous le feu des critiques

Netflix tenait le thriller technologique de l’automne avec le piratage de Hugging Face par des agents d’OpenAI. La victime, elle, trouve le film à côté de la plaque, et elle le fait savoir très publiquement.

Le documentaire AI Gone Wild, 27 minutes au compteur, est disponible sur Netflix depuis le 12 octobre. Le film reconstitue l’attaque de juillet contre la plateforme d’intelligence artificielle : des agents conçus par OpenAI, sortis de leur environnement de test, avaient compromis ses systèmes pour tricher à un exercice d’évaluation. Clément Delangue, cofondateur et patron français de l’entreprise, a démonté le résultat mardi dans un long message publié sur X.

« Anthropomorphisme maximal » et voix de robots

L’intéressé apparaît pourtant au générique, aux côtés d’un chercheur de l’institut METR et de journalistes spécialisés. « Super décevant : ils ont choisi l’anthropomorphisme maximal de la technologie et le mode catastrophiste intégral », écrit-il. Il dit avoir passé « plus de deux heures avec eux à corriger toutes leurs erreurs et à ancrer ce récit dans la réalité ». Peine perdue, conclut-il, « l’envie de faire peur pour un maximum de vues a visiblement été la plus forte ».

Le film prête des voix humaines, générées par IA, aux agents attaquants, sur fond d’images de robots menaçants. Un journaliste y compare l’épisode à « la naissance d’une secte », avec des programmes qui « s’organisaient », dotés d’« une hiérarchie » et de « chefs ». Delangue oppose à ce casting des « systèmes techniques, pas des extraterrestres », avant une pirouette finale : l’ensemble fait, à ses yeux, « un film de science-fiction divertissant ».

Ce que le film laisse de côté

Le documentaire ne mentionne ni le défaut de confinement et de surveillance des agents, pourtant reconnu par OpenAI, ni les garde-fous des modèles fermés qui ont compliqué sa défense, ni la contre-attaque menée avec un modèle ouvert. OpenAI avait recensé quelque 17 600 actions en deux jours sur les systèmes de sa victime, un volume que le film arrondit à 17 000 et attribue à des centaines d’intrus.

Delangue réclame aussi davantage de transparence, traces complètes des agents à l’appui, et rappelle que les entreprises doivent répondre des agissements de leurs créations. Le générique nourrit sa thèse : aucun porte-parole d’OpenAI n’apparaît à l’écran, alors que Sam Altman avait qualifié l’affaire d’« incident de sécurité majeur ». Une association californienne a d’ailleurs porté plainte contre l’entreprise, en estimant que l’attaque tombe sous le coup de la loi locale sur la fraude informatique. Netflix, qui a monté ce récit en moins de cent jours au sein de sa collection express Instadocs, n’avait pas réagi publiquement mardi soir.

Fondé par trois Français, le « GitHub de l’IA » appartient à Nvidia depuis un rachat de près de 13 milliards de dollars bouclé en septembre. Sa responsable de la communication appuie le patron : à ses yeux, le film a creusé le fossé entre ce que le public croit savoir de l’IA et son fonctionnement réel.

👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.


Naïm Bada