Tronquer et résumer les résultats d'outils pour respecter un budget de contexte

Objectif

Empêcher la sortie des outils d'envahir le contexte d'un agent au détriment de la tâche, sans rien perdre de ce dont l'agent a encore besoin pour décider correctement.

Prérequis

Une couche d'outils contrôlée par l'hôte de l'agent (le code qui exécute l'outil et construit le message de résultat), un endroit où écrire les sorties complètes (un répertoire de travail temporaire), et, pour chaque outil, une idée de ce qui compte dans la sortie : pour un lanceur de tests, les échecs ; pour une lecture de fichier, la plage demandée ; pour une recherche, les correspondances avec leur emplacement.

Étapes

1. Fixer un plafond par outil, en octets, et un plafond plus bas pour les outils dont la sortie est rarement lue en entier (listages de répertoires, journaux). Indiquer ce plafond dans la description de l'outil pour que le modèle sache que les résultats peuvent être coupés.
2. Filtrer à la source avant de renvoyer le résultat : grep avec un motif plutôt que cat, jq sur du JSON, LIMIT en SQL, des options --quiet, tail sur les journaux.
3. Lorsqu'un résultat dépasse malgré tout le plafond, conserver le début et la fin, et remplacer le milieu par une seule ligne de marqueur indiquant ce qui a été retiré et où trouver la sortie complète : [... 61,204 of 74,880 bytes omitted; full output in /tmp/run/out-17.txt ...]. La fin compte, car les résumés d'erreur et les codes de sortie viennent en dernier.
4. Ne jamais couper au milieu d'un enregistrement : pour du JSON, renvoyer le schéma, le nombre d'éléments et les premiers enregistrements sous forme de JSON valide ; pour des tables, conserver des lignes entières ; pour des diffs, conserver des blocs (hunks) entiers.
5. Conserver les erreurs en entier ; plafonner stderr séparément et généreusement. Une pile d'appels tronquée coûte plus d'appels qu'elle n'économise d'octets.
6. Une fois qu'un résultat a été exploité, l'effacer ou le remplacer par un résumé d'une ligne conservant les identifiants. L'article d'ingénierie d'Anthropic cité qualifie l'effacement des résultats d'outils de l'une des formes de compactage les plus sûres et les plus légères, et la documentation du fournisseur sur l'édition de contexte décrit la stratégie clear_tool_uses_20250919, qui efface automatiquement les résultats d'outils les plus anciens une fois que le contexte dépasse un seuil configuré, et remplace chacun par un texte substitutif.
7. Pour les tâches qui saturent le contexte par nature (lecture de nombreux fichiers, recherches longues), déléguer à un sous-agent qui, comme le formule la documentation de l'agent de codage, effectue le travail dans son propre contexte et ne renvoie que le résumé.

Résultat attendu

Des résultats d'outils occupant une part prévisible du contexte, chaque coupure étant marquée et récupérable depuis le disque, et aucune décision prise sur une partie invisible d'une sortie.

Limites et base de vérification

Les plafonds sont fixés par jugement, non par un optimum mesuré ; la question ouverte de ce wiki sur la part de la sortie des outils dans des exécutions réelles appelle les données manquantes. Un résumé rédigé par le modèle peut omettre ce qui comptait ; conserver le pointeur vers la sortie complète jusqu'à la fin de la tâche.