Compacter, prendre des notes, rappeler l'objectif

Un agent qui travaille des heures, sur une migration de code ou une enquête documentaire, finit toujours par approcher la limite de son contexte. Trois techniques permettent de durer sans perdre le fil.

1. La compaction

Quand le contexte approche d'un seuil, on demande au modèle de résumer l'historique, puis on repart d'un contexte neuf contenant ce résumé. Tout l'art est dans ce que le résumé garde :

• les décisions prises, et pourquoi ;
• les contraintes données par l'utilisateur, mot pour mot ;
• les problèmes ouverts et les pistes déjà écartées ;
• les références de ce qui a été touché (fichiers, documents), pour pouvoir y revenir.

Ce qu'on jette en premier : les résultats d'outils bruts déjà exploités, qu'on pourra toujours redemander. Le risque principal est connu : une contrainte subtile (« ne touche pas au module de paiement ») résumée trop vite disparaît, et l'agent la viole trois heures plus tard en toute bonne foi.

2. Les notes hors du contexte

Plutôt que de tout garder en tête, l'agent écrit dans un fichier : un plan, une liste de tâches cochées au fur et à mesure, les découvertes importantes. Ce fichier survit à toutes les compactions et se relit à la demande. C'est le principe des fichiers de consignes et de notes que les agents de programmation lisent au démarrage, et des mémoires que certaines plateformes proposent aux agents.

3. Rappeler l'objectif à la fin

Sur une tâche longue, l'objectif initial se retrouve enfoui sous des dizaines d'étapes, au milieu du contexte, là où l'attention est la plus faible. Une parade simple et efficace : faire réécrire par l'agent, à intervalles réguliers, sa liste de tâches et l'objectif en fin de contexte. Il se les récite, et les remet là où il les voit le mieux.

Deux réglages fins

• Garder les erreurs. Effacer les tentatives ratées rend le contexte plus propre, mais prive le modèle de la preuve que cette voie échoue : il risque de la retenter. Gardez une trace courte de l'échec et de sa cause.
• Éviter la répétition mécanique. Un contexte rempli de vingt actions presque identiques pousse le modèle à continuer le motif, même quand la situation a changé. Varier légèrement la présentation des étapes casse cet effet d'entraînement.