Le contexte est une ressource finie

Pendant deux ans, on a parlé de prompt engineering : bien écrire la consigne. Avec les agents qui travaillent pendant des dizaines d'étapes, la question a changé d'échelle. À chaque étape, le modèle reçoit un paquet entier : le prompt système, la définition de chaque outil, tout l'historique, chaque résultat d'outil, les documents récupérés. Ce qui décide de la qualité, c'est la composition de ce paquet. On parle désormais d'ingénierie du contexte.

Plus de contexte, moins d'attention

Le niveau Débutant a montré que le milieu d'un long texte est moins bien lu. Des mesures publiées depuis vont plus loin : sur de nombreux modèles, la performance se dégrade à mesure que le contexte s'allonge, y compris sur des tâches simples et bien en deçà de la limite annoncée. Une grande fenêtre est une capacité, pas une invitation à la remplir. Le bon objectif est l'inverse : le plus petit ensemble d'informations qui suffit à bien faire l'étape suivante.

Ce qui gonfle un contexte d'agent

• Les résultats d'outils bruts. Une recherche qui renvoie un JSON de 40 Ko dont trois champs servent, une page web entière avec ses menus et ses pieds de page.
• Les catalogues d'outils. Brancher dix serveurs MCP, c'est souvent cinquante ou cent outils dont les descriptions occupent des milliers de tokens à chaque appel, et un modèle qui hésite davantage entre des outils voisins.
• Les tentatives ratées accumulées, les fichiers relus trois fois, les sorties de commandes interminables.

Ce que ça coûte

Le cours « Après la mise en ligne » l'a chiffré : le contexte est renvoyé à chaque étape. Un agent de quarante étapes dont le contexte enfle paie quarante fois les mêmes résultats d'outils, avec une latence qui croît d'autant. Qualité, coût et vitesse tirent ici dans le même sens : alléger profite aux trois.

Les premiers leviers

• Des outils qui renvoient peu : les champs utiles, une pagination, un résumé plutôt que l'objet complet, des messages d'erreur qui disent quoi faire.
• Peu d'outils, bien distincts : si un humain hésite entre deux outils à la lecture de leurs descriptions, le modèle hésitera aussi.
• Des références plutôt que des contenus : garder le chemin d'un fichier ou l'identifiant d'un document, et ne le relire que lorsqu'il sert.