Elle rend l’IA plus intelligente, mais devient de plus en plus difficile à surveiller : c’est quoi la « chaîne de pensée » ?

Le 6 septembre 2026, dans un article de blog intitulé An Alien Mind (« un esprit alien »), Jakub Pachocki, chef scientifique d’OpenAI, revient sur les dernières années de développement de l’IA.

Il y raconte notamment comment, en 2023, son équipe a obtenu les premiers résultats suffisamment encourageants pour envisager de développer massivement l’apprentissage par renforcement (reinforcement learning) appliqué à l’entraînement des modèles.

Une avancée qui, à l’époque, ouvrait une nouvelle voie : au lieu d’enseigner à l’IA comment raisonner étape par étape, cette méthode la laisse apprendre à le faire elle-même, par essais successifs, en étant récompensée quand elle trouve la bonne réponse.

Trois ans plus tard, les modèles de raisonnement pèsent de plus en plus lourd dans l’économie et repoussent désormais les limites de la recherche scientifique.

Point essentiel de cette méthode : le chain-of-thought, souvent abrégé en CoT (que l’on pourrait traduire par « chaîne de pensée » ou « raisonnement en chaîne »), le mécanisme même qui permet à l’apprentissage par renforcement de fonctionner sur des tâches de raisonnement.

Une idée née chez Google

Toutefois, le concept de chaîne de pensée ne vient pas de Jakub Pachocki, ni d’OpenAI d’ailleurs. Il est formalisé en 2022 par des chercheurs de Google, qui cherchent alors à comprendre « comment la génération d’une chaîne de pensée (une série d’étapes de raisonnement intermédiaires) améliore significativement la capacité des grands modèles de langage à effectuer des raisonnements complexes. »

Car jusque-là, un grand modèle de langage (LLM) fonctionne, pour simplifier, uniquement comme un système qui prédit le mot suivant le plus probable. Efficace pour des tâches simples, cette approche perd indéniablement en qualité sur des problèmes qui demandent plusieurs étapes de raisonnement : un calcul à plusieurs inconnues, un bug de code à tracer, une démonstration logique. Le modèle a alors tendance à « sauter » à une conclusion, parfois fausse, faute d’avoir décomposé le problème.

Le chain of thought (« chaîne de pensée ») consiste à forcer le modèle à dérouler son raisonnement étape par étape, en langage naturel, avant de produire sa réponse finale. Cette suite de phrases intermédiaires, généralement invisible sert de mémoire de travail externe au modèle, qui peut s’appuyer sur ses propres étapes précédentes pour construire les suivantes.

Dans leur travail de recherche, les chercheurs de Google prouvent qu’il suffit de donner à un grand modèle quelques exemples de raisonnements détaillés dans son prompt pour améliorer ses performances sur des tâches de logique, d’arithmétique ou de sens commun.

De la ruse de prompt à la capacité native

Dans un premier temps, le CoT repose donc sur une incitation via le prompt : on pousse le modèle, de l’extérieur, à simuler un raisonnement.

Mais en septembre 2024, le lancement d’o1 par OpenAI change la donne. Pour la première fois, un modèle est entraîné par apprentissage par renforcement à produire lui-même de longues chaînes de raisonnement avant de répondre, sans qu’on ait besoin de le lui demander. Une capacité désormais intégrée au modèle plutôt que provoquée par la formulation de la question.

OpenAI fait alors le choix de cacher cette chaîne de pensée brute aux utilisateurs, pour la protéger de toute pression de supervision externe. Mais en juillet 2025, le chain of thought devient un enjeu de sécurité à part entière.

Des chercheurs de l’ensemble de l’industrie, OpenAI compris, publient un article qui formalise l’idée que, parce que les modèles de raisonnement « pensent » en langage humain, il devient possible de lire leurs chaînes de pensée pour y détecter une intention de mal agir avant que l’action ne soit commise.

Un document qui pose les bases de ce qu’on appelle la « surveillance du chain of thought » : des systèmes automatisés qui lisent en continu le raisonnement des modèles pour repérer des signaux de triche, de manipulation ou de contournement des règles.

Concrètement, ce sont les équipes de sécurité et d’alignement internes aux laboratoires qui exploitent ces traces au quotidien, complétées par des auditeurs externes, mandatés notamment pour évaluer si un modèle « triche » sur des tests, dissimule ses véritables intentions ou sabote discrètement une tâche.

L’IA agentique et la fenêtre qui se referme

Mais voilà, An Alien Mind n’est pas un simple texte de souvenirs. Jakub Pachocki y explique aussi que cette fenêtre de surveillance se referme à mesure que l’IA agentique, ces systèmes capables d’agir de façon autonome sur plusieurs étapes, d’utiliser des outils, d’interagir avec d’autres IA, devient la norme plutôt que l’exception.

Le chercheur identifie trois raisons à cette dégradation. D’abord, les modèles de raisonnement actuels opèrent dans des environnements bien plus complexes qu’à l’époque d’o1. Leur raisonnement se mélange désormais à des échanges avec des humains, d’autres IA, et à l’utilisation d’outils, ce qui brouille la frontière entre ce qui peut être supervisé sans risque et ce qui ne le peut pas.

Ensuite, les modèles deviennent meilleurs pour raisonner sur leur propre processus de raisonnement, et donc, potentiellement, pour le manipuler. Enfin, l’amélioration du pré-entraînement fait qu’une partie croissante de l’intelligence des modèles s’exprime désormais sans passer du tout par un raisonnement verbalisé, échappant de fait à toute lecture.

Dans son papier, Jakub Pachocki affirme qu’aucun laboratoire, le sien y compris, n’a résolu l’alignement et la surveillance à un niveau suffisant pour continuer à accélérer indéfiniment en toute responsabilité. Raison pour laquelle il appelle à des ralentissements volontaires ainsi qu’à une coordination internationale sur le développement futur de l’IA.

Le scientifique évoque toutefois des pistes pour ne pas tout miser sur cette seule méthode. OpenAI expérimente actuellement une méthode complémentaire, baptisée « confessions ». Le principe : après avoir répondu à l’utilisateur, le modèle produit une seconde réponse, distincte, dans laquelle il est invité à revenir sur sa propre copie. A-t-il pris des raccourcis ? A-t-il enfreint une consigne ? A-t-il triché pour obtenir une meilleure note ?

L’idée est que ce mécanisme de contrôle interne soit plus difficile à berner que la réponse principale elle-même, car le modèle n’a aucun intérêt à mentir une seconde fois sur ses propres manquements. Testée sur GPT-5 Thinking, cette approche reste pour l’instant un prototype de recherche.

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

Installer Numerama