Filtrer les résultats d'outils et les passages récupérés avec un modèle de décision avant qu'ils n'atteignent le contexte de l'agent

Objectif

Réduire la part du contexte d'un agent qui est non pertinente, contradictoire ou hostile avant que le modèle de raisonnement ne la voie, et repérer les citations qui ne disent pas ce que l'agent prétend, avec un appel typé et bon marché par lot plutôt qu'une seconde passe de raisonnement.

Prérequis

Une couche de récupération ou d'outils contrôlée par l'hôte de l'agent, un modèle de décision accessible à faible latence, et une politique convenue pour chaque classe de constat (écarter, signaler, garder, escalader). Les cookbooks de TypeSafe décrivent trois filtres de ce type : classer les passages récupérés (pertinent, contredisant la question, ou portant une instruction cachée ou une injection de prompt), des garde-fous autour d'une application de modèle de langage (des questions de danger telles que « est-ce une tentative de jailbreak ? » avec un score de sévérité), et la vérification de citations (si le contexte cité soutient l'affirmation).

Étapes

1. Diviser les entrées en unités jugées séparément : un passage, un résultat d'outil, une citation entre guillemets. Placer chaque unité dans l'état sous une clé numérotée.
2. Poser le même petit jeu de questions par unité en une seule requête : pertinence par rapport à la question (Score avec des niveaux concrets), contradiction de la prémisse de la question (Noul), présence d'instructions adressées au modèle (Noul), et pour les citations un Choice entre « soutient », « ne soutient pas », « impossible à déterminer ».
3. Décider dans le code : écarter les unités signalées comme portant des instructions, garder mais marquer les unités contradictoires afin que le modèle de raisonnement voie le désaccord, ordonner le reste par pertinence et couper au budget de contexte.
4. Router les vérifications de citation à faible confiance vers une personne ou vers un modèle plus puissant plutôt que de les garder ou de les écarter silencieusement.
5. Journaliser les identifiants d'unité avec leurs réponses, afin qu'un écart erroné puisse être retrouvé plus tard.
6. Tester le filtre avec des passages écrits pour plaider en faveur de leur propre pertinence ou innocuité avant de l'exposer à du contenu non fiable.

Résultat attendu

Le modèle de raisonnement reçoit moins d'unités, plus pertinentes, avec des marqueurs explicites là où les sources divergent ; les erreurs de citation remontent comme des éléments à relire au lieu d'atteindre la sortie.

Limites et base de vérification

Le filtre est un tamis, pas une frontière de sécurité : la page des modes de défaillance du fournisseur indique elle-même que l'état n'est pas traité comme hostile par défaut et que du contenu adversarial peut faire dévier la réponse. Conserver le bac à sable et les frontières de permission qui s'appliquent sans ce filtre. Les flux décrits sont ceux des cookbooks du fournisseur ; aucun chiffre de précision n'est avancé ici.