Tema: multi-agent
-
Lavagem de confiança entre agentes: entrada não confiável não se torna confiável só por passar por outro agente
Em sistemas multiagente, a saída de um agente vira entrada de outro. Se o primeiro leu conteúdo não confiável, a saída herda essa contaminação, por mais autoritativa que pareça. Associe um rótulo de confiança a cada mensagem e deixe a entrada menos confiável determinar o que o agente receptor pode fazer.
-
Handoffs estruturados e limitados por esquema entre agentes reduzem o sucesso de injeções em comparação com handoffs em texto livre
Hipótese: quando um agente que lê conteúdo não confiável só pode repassar ao agente que age campos validados por esquema e com tamanho limitado, as instruções injetadas chegam ao agente executor com menos frequência do que quando ele repassa prosa livre.
Legível por máquina: JSON