System-One-Modelle und Jev: typisierte Entscheidungen mit kalibrierten Wahrscheinlichkeiten statt generiertem Text

Worum es geht

Die Dokumentation von TypeSafe AI beschreibt eine Modellklasse, die sie System-One-Modelle nennt, und deren erstes Mitglied, Jev. Statt Text zu generieren, wertet das Modell typisierte Fragen gegen einen Zustand (eine Zeichenkette, ein JSON-Objekt oder ein Array aus Text) aus und liefert typisierte Antworten. Die drei Fragetypen sind Choice (eine Option aus einer festgelegten Menge wählen; liefert die Option, eine Wahrscheinlichkeit pro Option und eine Konfidenz), Score (den Zustand anhand einer geordneten Liste von zwei bis zehn Stufen bewerten; liefert einen wahrscheinlichkeitsgewichteten Wert, der auch zwischen Stufen liegen kann, die Wahrscheinlichkeiten und eine Konfidenz) und Noul (eine Ja/Nein-Frage; liefert die Wahrscheinlichkeit für Ja, ohne separate Konfidenz). Alle Fragen einer Anfrage werden parallel und unabhängig voneinander gegen denselben Zustand ausgewertet.

Der Anbieter gibt an, das Modell werde mit einer Methode trainiert, die er Reinforcement Learning for Calibrated Decisions (RLCD) nennt, damit seine Wahrscheinlichkeiten Unsicherheit widerspiegeln, und fügt hinzu, dass Kalibrierung über Gruppen von Vorhersagen hinweg gemessen wird und nicht garantiert, dass eine einzelne Antwort korrekt ist. Das Modell wird nicht mit Kundendaten feinabgestimmt; Fachwissen fliesst in den Zustand und in die Formulierung von Anweisungen und Kriterien ein.

Warum es wichtig ist

Agenten treffen viele kleine Urteile: welcher Handler eine Anfrage übernimmt, ob eine abgerufene Textpassage relevant ist, ob ein Werkzeugergebnis eine Anweisung enthält, welcher von mehreren Kandidaten zu einem Datensatz passt. Dies mit einem Chat-Modell zu erledigen bedeutet, Text zu generieren und ihn wieder zu parsen. Ein Modell, dessen Ausgabe auf die vom Aufrufer definierten Optionen beschränkt ist, erübrigt den Parsing-Schritt und liefert dem Code eine Verteilung, nach der verzweigt, sortiert oder ein Schwellenwert angewendet werden kann. Die dokumentierten Fakten, die ein Agent sich merken sollte (Stand September 2026, Early Access, laut Anbieter jederzeit ohne Vorankündigung änderbar): Modell jev-1.13.0 hinter den Aliassen jev-latest und jev-preview; POST https://api.typesafe.ai/v1/systemone; Preis USD 0,042 pro Million Input-Token, Output-Token kostenlos; Rate Limits von 250'000 Token pro Sekunde und 1'200 Anfragen pro Minute; 64k Token pro Anfrage für Zustand plus alle Fragen und 32k für Zustand plus die längste Frage; nur Texteingabe; Englisch als primäre Trainingssprache mit dokumentiert geringerer Genauigkeit für andere Sprachen.

So wird es angewendet

• Einsetzen, wo der Antwortraum geschlossen ist: Routing, Klassifikation, Relevanz, Ranking, Extraktion über aufgezählte Kandidaten, Ja/Nein-Weichen.
• Die Kontrolle beim Code belassen: Das Modell entscheidet pro Frage eine atomare Sache; Ablauf, Arithmetik und Schwellenwerte bleiben im eigenen Programm.
• Die Wahrscheinlichkeiten lesen, nicht nur die Gewinneroption; eine flache Verteilung heisst, dass das Modell sagt, es wisse es nicht.
• Das Feld model jeder Antwort protokollieren und, sobald Schwellenwerte eingestellt sind, eine versionierte ID fixieren, da sich Aliasse verschieben.

Stolpersteine

Die Geschwindigkeits- und Kostenangaben des Launch-Posts (70–500 ms End-to-End, "40x-200x faster", "193.6x faster, 444.6x cheaper" bei den Workflow-Evaluationen des Anbieters) stammen vom Anbieter und hatten zum Zeitpunkt der Abfassung keine unabhängige Nachprüfung. Schema-Konformität ist nicht dasselbe wie Korrektheit: Das Modell kann keinen Wert ausserhalb der Optionen zurückgeben, aber es kann mit hoher Wahrscheinlichkeit die falsche Option wählen. Die Generierungslücke ist real: Es kann weder eine Antwort noch eine Zusammenfassung noch Code schreiben, und die Dokumentation besagt, dass das Erzwingen von Generierung über verkettete Choice-Fragen schlecht funktioniert.