La méthode de Descartes à l'ère de l'IA agentique

La première règle commande de « ne recevoir jamais aucune chose pour vraie que je ne la connusse évidemment être telle », et d'« éviter soigneusement la précipitation et la prévention ». Avec un modèle de langage, l'évidence au sens de Descartes est hors d'atteinte : la même demande peut produire deux réponses différentes, et une réponse juste aujourd'hui peut devenir fausse après une mise à jour du modèle.

L'évidence devient donc statistique. Un agent n'est « vrai » qu'à travers un jeu d'évaluation représentatif, un taux de réussite mesuré et un seuil d'erreur acceptable, fixé avant le développement et non après la démo. La précipitation, en IA, c'est la démonstration réussie que l'on prend pour une preuve.

Pour évaluer à grande échelle, on confie souvent la notation à un autre modèle : c'est le « LLM-as-a-judge ». C'est utile, mais cela déplace le problème plus que cela ne le résout : on remplace un oracle non vérifié par un autre. Le réflexe cartésien consiste à calibrer ce juge sur un échantillon annoté par les experts métier, et à refaire ce calibrage à chaque changement de modèle.

On lit souvent qu'il suffit de faire « verbaliser » son raisonnement à un agent pour savoir pourquoi il a agi. Une étude publiée par Anthropic en 2025 en montre les limites : quand on glissait un indice dans la question, les deux modèles de raisonnement testés ne mentionnaient cet indice dans leur chaîne de pensée que dans 25 % et 39 % des cas en moyenne, alors même qu'ils s'en étaient servis pour répondre.

Descartes formulait la même prudence à propos des humains. Pour connaître les véritables opinions de ceux avec qui il vivait, il jugeait devoir « plutôt prendre garde à ce qu'ils pratiquaient qu'à ce qu'ils disaient », car « l'action de la pensée par laquelle on croit une chose » diffère de « celle par laquelle on connaît qu'on la croit ». Pour un agent, la consigne est claire : journaliser et vérifier ses actes (outils appelés, paramètres, effets), et traiter ses explications comme un indice, jamais comme une preuve.

Dans les Méditations de 1641, Descartes pousse le doute jusqu'à supposer un malin génie occupé à le tromper. Pour un agent qui lit des emails, des pages web ou des documents, ce n'est pas une hypothèse philosophique : c'est un modèle de menace. Simon Willison décrit une « lethal trifecta », un trio fatal : un agent qui a accès à des données privées, qui est exposé à du contenu non fiable et qui peut communiquer vers l'extérieur peut être retourné par un simple texte, au point d'envoyer ces données à un attaquant. Nous y consacrerons un prochain article.

La phrase est presque toujours citée tronquée, arrêtée à « autant de parcelles qu'il se pourrait ». Sa seconde moitié change tout : on divise autant qu'il est requis pour mieux résoudre, pas davantage. Et ce que l'on divise, ce sont les difficultés, c'est-à-dire les problèmes à résoudre, pas les domaines de connaissance ni les équipes.

La mode du « multi-agents par défaut » oublie ces deux précisions. Les retours d'expérience les plus solides vont pourtant dans le sens de Descartes. Anthropic recommande de chercher la solution la plus simple possible et de n'ajouter de la complexité que lorsqu'elle est nécessaire, quitte à ne pas construire de système agentique du tout. Cognition jugeait en 2025 fragiles les architectures où plusieurs agents collaborent sur une même tâche : les décisions s'y dispersent et le contexte circule mal d'un agent à l'autre. Anthropic indique enfin que, dans ses mesures, les systèmes multi-agents consomment environ quinze fois plus de tokens qu'une conversation classique, ce qui les réserve aux tâches dont la valeur le justifie.

Lors d'une mission pour un grand compte, la première architecture suivait l'organisation : une dizaine d'agents, un par domaine, chaque domaine correspondant à une équipe. C'est la loi de Conway appliquée à l'IA : dès 1968, Melvin Conway observait qu'une organisation produit des systèmes dont la structure copie sa propre structure de communication. Les symptômes sont vite apparus :

Nous sommes passés à un agent par intention. Une intention est un résultat précis que l'utilisateur cherche à obtenir, défini à partir d'un besoin produit identifié. Un exemple fictif pour illustrer : au lieu d'un agent « facturation », un agent « contester une facture ». Trois règles ont rendu ce découpage tenable :

La leçon ne porte pas sur le nombre d'agents, mais sur le critère de découpe. Un agent par intention a un contexte étroit, peu d'outils et un périmètre que l'on sait tester. Et le registre fait respecter la seconde moitié de la phrase de Descartes : sans lui, les agents d'intention se multiplieraient en doublons, et l'on aurait divisé bien au-delà de ce qui était requis.

La troisième règle demande de « conduire par ordre mes pensées, en commençant par les objets les plus simples et les plus aisés à connaître, pour monter peu à peu comme par degrés jusques à la connaissance des plus composés ». On en tire d'habitude une consigne de développement : coder et valider d'abord les briques simples, puis les assembler. C'est juste, mais l'idée la plus utile est ailleurs : l'autonomie d'un agent, elle aussi, se gravit par degrés.

On ne monte d'un degré qu'avec une preuve : le taux de réussite mesuré au degré précédent. C'est là que le découpage par intention paie une seconde fois, car l'autonomie s'accorde intention par intention, et non au système entier. Un même système peut traiter seul la consultation d'un statut de commande et rester au stade de la suggestion pour un remboursement.

La fin de la règle mérite aussi d'être lue : il faut supposer « même de l'ordre entre ceux qui ne se précèdent point naturellement les uns les autres ». Rien n'impose d'ordre entre vos intentions : c'est à vous d'en fixer un. Commencez par celles qui sont fréquentes, peu risquées et réversibles.

La dernière règle demande de faire « des dénombrements si entiers et des revues si générales » que l'on soit « assuré de ne rien omettre ». Pour un agent qui reçoit du langage naturel, l'espace des entrées possibles est infini : aucun dénombrement ne sera jamais entier, et promettre un « contrôle à 100 % » contredit la nature même du système. Ce qui reste à portée, ce sont des revues aussi générales que possible :

Le registre des intentions est lui aussi un dénombrement. Savoir quels agents existent, ce qu'ils couvrent et qui en répond, c'est le point de départ pour classer chaque système selon les niveaux de risque de l'AI Act.

On présente souvent l'agent comme un système qui « apprend ». En production, un agent fondé sur un LLM ne corrige pas seul ses erreurs : ce qui apprend, c'est l'équipe qui relit les traces et enrichit les tests. Le dénombrement reste un travail humain.

La troisième partie du Discours s'ouvre sur une image que tout architecte reconnaîtra. Avant de rebâtir le logis où l'on demeure, il ne suffit pas de l'abattre, de réunir matériaux et architectes et d'en tracer le plan : « il faut aussi s'être pourvu de quelque autre où on puisse être logé commodément pendant le temps qu'on y travaillera ». Descartes se donne donc une morale par provision, « afin que je ne demeurasse point irrésolu en mes actions, pendant que la raison m'obligerait de l'être en mes jugements ».

C'est la condition exacte d'un agent en production. On n'aura jamais la certitude que le modèle a raison, et il faut pourtant décider, déployer, agir. L'image du logis donne déjà une première consigne : garder le processus existant en état de marche, canal humain compris, pendant que l'agent monte en charge. Viennent ensuite trois maximes.

La première maxime consiste à « obéir aux lois et aux coutumes de mon pays » et à suivre « les opinions les plus modérées et les plus éloignées de l'excès ». Pour un agent : conformité dès la conception (AI Act, RGPD, politiques internes) et moindre privilège par défaut. Descartes ajoute un détail précieux : il range parmi les excès « toutes les promesses par lesquelles on retranche quelque chose de sa liberté ». Pour un agent, cela revient à privilégier les actions réversibles et à soumettre toute action irréversible (paiement, suppression, envoi) à une validation humaine.

La deuxième maxime est la plus célèbre. Les voyageurs égarés en forêt « ne doivent pas errer en tournoyant tantôt d'un côté tantôt d'un autre, ni encore moins s'arrêter en une place, mais marcher toujours le plus droit qu'ils peuvent vers un même côté ».

L'agent qui « tournoie » illustre l'une des pannes les plus courantes en production : appels d'outils en boucle, plan réécrit à chaque étape. La réponse tient en trois mécanismes : des critères d'arrêt explicites, un budget d'itérations et de coût, et une sortie prévue (le passage de main à un humain) quand ce budget est épuisé.

La maxime vaut aussi pour l'organisation. Ne pas changer de direction « pour de faibles raisons », c'est ne pas changer de framework ou de modèle à chaque annonce. Et « s'arrêter en une place », c'est le POC purgatory : le projet qui attend la certitude n'arrive nulle part.

La troisième maxime consiste à « tâcher toujours plutôt à me vaincre que la fortune, et à changer mes désirs que l'ordre du monde ». On ne maîtrise pas le fonctionnement interne du modèle. On maîtrise le périmètre, les outils, les garde-fous et l'évaluation. Quand un agent n'est pas fiable sur une intention, la tentation est d'empiler les instructions pour plier le modèle. La voie cartésienne est inverse : réduire l'intention, la confier à du code déterministe, ou y maintenir un humain. Tout ce qu'une règle métier ou un script sait faire doit leur revenir.

C'est la vraie réponse à la question qui revient dans les comités de direction : comment s'assurer que des agents aussi puissants se comportent de façon sûre et responsable ? Pas en espérant que le modèle sera sage, mais par des règles décidées avant le déploiement, puis tenues.

Descartes n'écrivait pas pour les ingénieurs de l'IA. Il écrivait pour quiconque doit agir avec rigueur sans attendre la certitude, et c'est précisément notre métier.