Konfidenzgesteuertes Routing mit einem Entscheidungsmodell: Schwellenwerte, die mit dem Risiko skalieren

Ziel

Einen Agenten nur dann automatisch handeln lassen, wenn eine Entscheidung sowohl klar als auch günstig im Fehlerfall ist, und alles Übrige an einen Bestätigungsschritt, eine Person oder ein stärkeres Modell übergeben.

Voraussetzungen

Eine als Choice- oder Score-Frage ausgedrückte Entscheidung. Die Dokumentation besagt, dass beide eine confidence zwischen 0 und 1 tragen, die aus der Form der zurückgegebenen Wahrscheinlichkeitsverteilung abgeleitet ist: Liegt die gesamte Wahrscheinlichkeit auf einer Option, ergibt das 1,0, eine gleichmässige Verteilung einen niedrigen Wert. Eine Noul-Antwort besitzt keine Konfidenz; ihre eigene Wahrscheinlichkeit übernimmt diese Rolle.

Schritte

1. Die durch die Antwort ausgelösten Aktionen auflisten und nach den Kosten eines Fehlers rangieren (rein anzeigend, reversible Änderung, irreversibler oder externer Effekt).
2. Eine globale Untergrenze setzen. Die Beispiele des Herstellers verwenden in einem Durchgang 0,5 und in einem anderen 0,6; unterhalb der Untergrenze handelt der Agent nie auf Basis der Antwort und fragt, eskaliert oder weicht stattdessen auf einen Fallback aus.
3. Oberhalb der Untergrenze jeder Aktion einen eigenen Schwellenwert geben: niedrig für eine rein lesende Aktion, hoch für eine destruktive. Die Seite zur Konfidenz zeigt das Muster im Code: Eine Kontostandsabfrage geht bei jeder Konfidenz oberhalb der Untergrenze weiter, eine Überweisungsfreigabe nur oberhalb von 0,9, andernfalls wird die nutzende Person um Bestätigung gebeten.
4. Die Schwellenwerte und die Fragen in einer Datei halten, damit eine reviewende Person sie findet; die Seite zu Agenten-Skills des Herstellers empfiehlt genau dies für Code, den Coding-Agenten schreiben.
5. Auf beschrifteten Beispielen aus dem eigenen Datenverkehr kalibrieren: für jeden Schwellenwert zählen, wie viele korrekte Aktionen er blockiert und wie viele falsche er durchlässt, und ihn verschieben, bis der Kompromiss zum Risiko passt.
6. Die versionierte Modell-ID (jev-1.13.0 statt jev-latest) fixieren, sobald die Schwellenwerte kalibriert sind; die Seite zu den Modellen besagt, dass Aliase sich mit Releases mitverschieben und dass kalibrierte Schwellenwerte vor einem Wechsel auf der neuen Version erneut geprüft werden sollten.
7. Die Antwort, die Wahrscheinlichkeiten und die Konfidenz zu jeder weitergeleiteten Entscheidung festhalten, damit falsche Aktionen auf einen Schwellenwert zurückgeführt werden können, statt erraten zu werden.

Erwartetes Ergebnis

Automatische Aktionen konzentrieren sich auf klare Fälle; mehrdeutige Eingaben erscheinen als Bestätigungen oder Eskalationen statt als stille Fehlaktionen. Die Risikobereitschaft zu ändern bedeutet, eine Konstante zu ändern, nicht einen Prompt.

Grenzen und Prüfbasis

Aus der Dokumentation des Herstellers abgeleitet; kein Schwellenwert hier ist eine Empfehlung für ein reales System. Die Dokumentation selbst sagt, dass die richtigen Schwellenwerte von der Domäne abhängen und auf den eigenen Daten der aufrufenden Instanz gefunden werden müssen und dass Konfidenz eine zusammenfassende Statistik ist, keine Garantie für die einzelne Antwort.

Kalibrierung vor der Wahl der Schwellenwerte prüfen

Vor Schritt 5 die beschrifteten Antworten nach Konfidenz in Klassen einteilen (zum Beispiel zehn Klassen der Breite 0,1) und die Genauigkeit innerhalb jeder Klasse berechnen. Steigt die Genauigkeit mit der Konfidenz, und erreichen die obersten Klassen das für die risikoreiche Aktion benötigte Niveau, sind Schwellenwerte auf der Konfidenz sinnvoll und können dort gesetzt werden, wo die Klassen dieses Niveau überschreiten. Ist die Genauigkeit über die Klassen hinweg flach, oder verfehlt die oberste Klasse das geforderte Niveau, trägt die Konfidenz auf diesen Daten nicht die Information, welche die Schranke benötigt: den automatischen Pfad für diese Aktion geschlossen halten und sie unabhängig von der gemeldeten Konfidenz an eine Person oder ein stärkeres Modell weiterleiten. Die Prüfung wiederholen, sobald sich Modellversion, Frageformulierung oder Eingabeverteilung ändern.