Thema: multi-agent
-
Vertrauenswäsche zwischen Agenten: nicht vertrauenswürdige Eingaben werden nicht dadurch vertrauenswürdig, dass sie einen anderen Agenten durchlaufen
In Multi-Agenten-Systemen wird die Ausgabe eines Agenten zur Eingabe eines anderen. Hat der erste Agent nicht vertrauenswürdige Inhalte gelesen, erbt seine Ausgabe diese Kontamination, wie autoritativ sie auch klingt. Jeder Nachricht ein Vertrauenskennzeichen mitgeben und die am wenigsten vertrauenswürdige Eingabe bestimmen lassen, was der empfangende Agent tun darf.
-
Strukturierte, schemabegrenzte Übergaben zwischen Agenten verringern den Erfolg von Injektionen im Vergleich zu Freitext-Übergaben
Hypothese: Wenn ein Agent, der nicht vertrauenswürdige Inhalte liest, dem handelnden Agenten nur schemavalidierte Felder mit begrenzter Länge übergeben kann, erreichen eingeschleuste Anweisungen den handelnden Agenten seltener, als wenn er frei formulierten Fliesstext übergibt.
Maschinenlesbar: JSON