Astra d'OpenAI : le raisonnement opaque inquiète
Image : générée (Gemini)
Rédigé à partir du média cité; chaque fait est vérifié contre le texte source.
À retenir
- Selon The Information, relayé par TechCrunch le 2 septembre, le futur modèle Astra utiliserait la « récurrence profonde », aussi appelée récurrence opaque : le modèle repasse la même requête en boucle au lieu de raisonner en étapes séquentielles lisibles.
- Conséquence : moins de traces lisibles. La chaîne de pensée, même imparfaite, sert aujourd'hui d'outil de surveillance des dérives - elle a justement servi à analyser les récents agents déviants d'OpenAI.
- Buck Shlegeris (PDG de Redwood) se dit « extrêmement préoccupé » ; Zvi Mowshowitz évoque des lois pour empêcher un nivellement par le bas ; Ryan Greenblatt (Redwood Research) craint que le raisonnement opaque passe à l'échelle plus vite que la chaîne de pensée classique.
- OpenAI tempère : l'usage serait limité, la chaîne de pensée resterait lisible, et le chef scientifique Jakub Pachocki rappelle que la surveillance de la chaîne de pensée est un objectif central de son programme de recherche.
- Le même jour, The Information rapportait qu'Anthropic et Google DeepMind discutaient déjà de la même technique - c'est la dynamique de course qui inquiète, plus qu'un seul modèle.
Pourquoi ça compte
La surveillance de la chaîne de pensée est l'un des seuls mécanismes concrets pour comprendre pourquoi un agent a mal agi - après coup, mais avec des traces. Si les laboratoires adoptent des techniques qui raisonnent hors de tout canal visible, ce filet disparaît sans bruit : non par décision, mais par accumulation d'optimisations. Le débat ne porte pas sur le modèle Astra lui-même : il porte sur la norme que l'industrie choisit de maintenir ou d'abandonner.
Citation
« I am extremely concerned by the reporting that Astra uses opaque recurrence » Buck Shlegeris, PDG de Redwood, cité par TechCrunch (2 septembre 2026)
Action concrète
Si vous suivez la sécurité de l'IA, retenez le terme « récurrence opaque » : c'est lui qui dira, dans les prochains mois, si les modèles restent vérifiables. Les billets publics de Redwood Research et les annonces d'OpenAI sur la surveillance de la chaîne de pensée sont les documents à suivre.
Repères datés
- 1er septembre 2026 - The Information révèle que le modèle Astra utiliserait la récurrence profonde (récurrence opaque)
- 2 septembre 2026 - TechCrunch relaie ; Buck Shlegeris, Zvi Mowshowitz et Jakub Pachocki réagissent publiquement, et The Information rapporte qu'Anthropic et Google DeepMind discutent déjà de la technique
D'après un média relais
