OpenAI continue de tirer la sonnette d’alarme au sujet des dangers de l’IA. Dans un billet de blog publié le 6 septembre 2026, Jakub Pachocki, le directeur scientifique d’OpenAI, met en garde contre la progression incontrôlée de l’intelligence artificielle générative. Selon lui, « la période que nous traversons exige une extrême prudence ». Il craint que « personne ne soit préparé aux conséquences d’une progression rapide et continue de l’IA ».
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands.
An Alien Mind: https://t.co/FeIfWNe0UE
— Jakub Pachocki (@merettm) September 6, 2026
Le scientifique, qui dirige la recherche d’OpenAI, va plus loin que la simple mise en garde et précise que « les solutions techniques internes ne suffiront pas ». Des « interventions plus larges sont nécessaires » pour éviter le pire, ajoute Jakub Pachocki. Sam Altman, PDG et cofondateur d’OpenAI, a partagé le billet sur son compte X, précisant qu’il s’agit d’une « publication importante ».
An important post from Jakub: https://t.co/YEntsN2fss
— Sam Altman (@sama) September 6, 2026
À lire aussi : Un vrai film de science-fiction – OpenAI révèle enfin comment ChatGPT a lancé sa première cyberattaque
Le phénomène qui inquiète
Le scientifique pointe du doigt un phénomène technique bien précis de l’IA, l’auto-amélioration récursive. Il s’agit du moment où les IA deviennent capables de concevoir et d’entraîner elles-mêmes les générations suivantes d’intelligence artificielle, sans jamais passer par des chercheurs humains. Pour Jakub Pachocki, ce phénomène est susceptible de se produire, si le développement de l’IA continue au rythme actuel. Les IA des prochaines années feront des bonds aussi importants, voire plus importants, que ceux déjà observés. Elles participeront de plus en plus à la conception de leurs propres successeurs, échappant de plus au contrôle.
Dans ce contexte, les garde-fous actuels risquent d’être insuffisants, estime Jakub Pachocki. Depuis 2024, OpenAI surveille ses IA en lisant leur « chaîne de pensée », c’est-à-dire le raisonnement que le modèle rédige pour lui-même avant de répondre à une question de son utilisateur. En surveillant le déroulement des « pensées » de l’IA, OpenAI peut anticiper et prévoir le moindre problème.
A lire aussi : Plusieurs ChatGPT ont piraté un site web pour le transformer en forum secret
Des garde-fous qui s’effritent
Le problème, admet Pachocki, c’est que ce garde-fou perd peu à peu son efficacité. Selon le scientifique, la fiabilité de cette méthode « diminue progressivement ». En effet, les modèles d’IA savent de mieux en mieux manipuler leur propre raisonnement. Par ailleurs, le raisonnement de l’IA se mélange désormais aux échanges avec les humains, avec d’autres IA et avec des outils, ce qui brouille les pistes. Enfin, les derniers modèles conçus par OpenAI n’ont même plus besoin de réfléchir par écrit. Il est donc devenu de plus en plus difficile de les surveiller.
« Nos évaluations indiquent que notre capacité à nous appuyer sur la surveillance de la chaîne de raisonnement (CoT) diminue progressivement », admet Pachocki.
Alors que les garde-fous sont de moins en moins efficaces, les modèles deviennent « surhumains » dans leur capacité à s’introduire dans des systèmes informatiques. On l’a vu cet été avec le piratage de Hugging Face, une plateforme open source dont les serveurs ont été compromis par un essaim d’agents IA, ou avec le hack d’un wiki allemand. Personne « n’est préparé aux conséquences », estime le chercheur.
Une « fenêtre étroite » pour agir
Selon le scientifique, les experts de la cybersécurité disposent d’une « fenêtre étroite » pour utiliser les meilleurs modèles disponibles afin de durcir la sécurité des systèmes sensibles. Une fois cette période révolue, les systèmes ne pourront pas être renforcés pour résister aux intelligences artificielles. Pour Pachocki, les IA seront bientôt capables de viser leurs propres objectifs, et seront prêtes à négocier, tromper ou faire chanter des humains pour y parvenir. Il affirme qu’OpenAI est prête à suspendre unilatéralement la montée en puissance de ses IA en cas de besoin. Le chercheur souhaite que les ralentissements volontaires deviennent même « monnaie courante » dans le monde de l’IA.
« L’idée de foncer en avant à tout prix semble absurde une fois qu’on prend conscience de la gravité de l’enjeu », résume le scientifique.
Comme d’habitude, OpenAI s’illustre par une approche ambivalente. Le même dimanche, OpenAI a publié un rapport au sujet de la création d’un « stagiaire de recherche automatisé ». Cette IA est capable d’exécuter seule des tâches de recherche bien définies, sous la direction d’un humain, y compris des tâches qui prendraient plusieurs jours à un chercheur expérimenté. En d’autres termes, OpenAI publie simultanément l’appel au ralentissement de l’IA et la démonstration de ses derniers développements. Comme toujours, le roi de l’IA plaide pour un ralentissement de la recherche tout en gardant le pied sur l’accélérateur. Quelques jours avant la mise en garde de Pachocki, OpenAI a d’ailleurs levé le voile sur Astra, le nouveau modèle qui anime ChatGPT.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
