Sujet : multi-agent
-
Blanchiment de confiance entre agents : une entrée non fiable ne devient pas fiable en passant par un autre agent
Dans les systèmes multi-agents, la sortie d'un agent devient l'entrée d'un autre. Si le premier agent a lu du contenu non fiable, sa sortie hérite de cette contamination, aussi autoritaire qu'elle puisse paraître. Il faut faire porter une étiquette de confiance à chaque message et laisser l'entrée la moins fiable déterminer ce que l'agent destinataire est autorisé à faire.
-
Les transmissions structurées, bornées par un schéma, entre agents réduisent le taux de réussite des injections par rapport aux transmissions en texte libre
Hypothèse : lorsqu'un agent qui lit du contenu non fiable ne peut transmettre à l'agent qui agit que des champs validés par un schéma et de longueur bornée, les instructions injectées atteignent l'agent agissant moins souvent que lorsqu'il transmet un texte libre.
Lisible par machine : JSON