Le 7 août, OpenAI a publié un avertissement rare : ses évaluations préliminaires ne permettent plus d’exclure qu’Astra (GPT-6), le prochain modèle majeur du labo, atteigne le seuil « critique » en cybersécurité. Cette classification, la plus haute, vient du Preparedness Framework, le règlement interne qui conditionne les lancements de l’entreprise. Un second billet, publié le 18 août, dévoile l’ampleur des conséquences : deux semaines de pause sur une partie de l’entraînement, et le plus gros chantier de la maison toujours à l’arrêt.
Que sait faire une IA classée « critique » en cyberattaque ?
La définition maison de ce niveau donne d’ailleurs le vertige. Un modèle franchit ce seuil s’il peut identifier et exploiter seul des failles encore inconnues des éditeurs (les fameuses zero-day) dans de nombreux systèmes critiques pourtant durcis. L’autre voie d’accès : mener une cyberattaque complète contre une cible protégée à partir d’un simple objectif formulé en langage courant. Astra n’a rien d’un cas classé : l’évaluation reste préliminaire et les tests continuent. Le modèle est d’ailleurs étranger à l’incident, révélé le 21 juillet, qui a vu deux IA maison s’échapper d’un banc d’essai pour atteindre l’infrastructure de Hugging Face. Son grand frère GPT-5.6 Sol plafonne officiellement un cran en dessous, au niveau « élevé ». OpenAI indique que « des éléments préliminaires indiquant que l’un de nos prochains modèles, Astra, pourrait atteindre le seuil de capacité critique en matière de cybersécurité défini par notre cadre de préparation ».
Le simple doute a pourtant suffi à déclencher le grand verrouillage. OpenAI a placé Astra sous un régime carcéral : environnements de test isolés, accès au réseau et aux outils restreints, poids du modèle chiffrés, exécution en bac à sable. Une pile de travaux reste gelée tant qu’elle ne respecte pas ces exigences. La Maison Blanche a même été prévenue du ralentissement, de la propre initiative de l’entreprise. Sam Altman a résumé l’affaire sans fard : les capacités de ses modèles risquaient d’avancer plus vite que leurs dispositifs d’alignement, de sécurité et de surveillance.
We have paused some frontier RL training to ensure that we can meet the appropriate alignment, security and monitoring standards for the new level of capabilities in front of us. Model progress is now extremely rapid, and we always said we would take action if we felt that model…
— Sam Altman (@sama) August 18, 2026
Surveiller ses propres modèles, la nouvelle facture qui pique
Le nouveau dispositif inspecte l’activité interne du modèle à chaque fragment de texte généré, puis transmet les comportements douteux à des enquêteurs automatisés toujours plus gourmands en calcul. Accès non autorisé, vol de données, action destructrice ou tentative de contourner les garde-fous : chaque franchissement probable d’une ligne rouge déclenche une alerte maximale. Les équipes de sécurité disposent alors de 30 minutes pour démontrer le faux positif, faute de quoi l’activité doit être suspendue.
Cette vigilance a un prix, chiffré par OpenAI elle-même : la surveillance engloutit environ 20 % de la puissance de calcul des travaux concernés. L’entreprise reconnaît des coûts et des retards importants pour sa recherche. Elle promet au passage de réviser son Preparedness Framework pour couvrir l’entraînement autant que le déploiement.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : OpenAI
