Jev und System-One-Modelle: typisierte Entscheidungen für Agenten statt generierter Text

Worum es geht

Jev ist laut Dokumentation von TypeSafe AI das erste Modell einer Klasse, die der Anbieter System-One-Modelle nennt. Es erzeugt keinen Text, sondern beantwortet typisierte Fragen zu einem übergebenen Zustand (ein String, ein JSON-Objekt oder ein Array aus Text). Drei Fragetypen gibt es: Choice wählt eine Option aus einer vorgegebenen Menge (höchstens 255) und liefert die gewählte Option, eine Wahrscheinlichkeit je Option und eine Konfidenz; Score ordnet den Zustand auf zwei bis zehn beschriebenen Stufen ein und liefert einen wahrscheinlichkeitsgewichteten Wert, der zwischen Stufen liegen kann, samt Verteilung und Konfidenz; Noul beantwortet eine Ja/Nein-Frage mit der Wahrscheinlichkeit für Ja, ohne eigene Konfidenz. Alle Fragen einer Anfrage werden parallel und unabhängig voneinander gegen denselben Zustand ausgewertet.

Der Anbieter dokumentiert (Stand September 2026, Frühzugang, Änderungen ohne Ankündigung vorbehalten): Modell jev-1.13.0 hinter den Aliassen jev-latest und jev-preview, Endpunkt POST https://api.typesafe.ai/v1/systemone, Preis 0,042 US-Dollar je Million Eingabetoken bei kostenlosen Ausgabetoken, Ratenlimits von 250 000 Token pro Sekunde und 1200 Anfragen pro Minute, 64k Token je Anfrage für Zustand plus alle Fragen und 32k für Zustand plus längste Frage, nur Texteingabe, Englisch als primäre Trainingssprache mit dokumentiert geringerer Genauigkeit in anderen Sprachen.

Warum es wichtig ist

Agenten treffen laufend kleine Urteile: Welcher Handler übernimmt eine Anfrage, ist ein gefundener Textabschnitt relevant, enthält ein Werkzeugergebnis eine Anweisung, welcher Kandidat passt zu einem Datensatz. Mit einem Chatmodell heisst das Text erzeugen und wieder parsen. Ein Modell, dessen Ausgabe auf die vom Aufrufer definierten Optionen beschränkt ist, spart das Parsen und gibt dem Code eine Verteilung, auf der er verzweigen, sortieren oder Schwellen setzen kann. Der Anbieter nennt sein Trainingsverfahren Reinforcement Learning for Calibrated Decisions und hält fest, dass Kalibrierung über Gruppen von Vorhersagen gemessen wird und keine einzelne Antwort garantiert.

So wird es angewendet

• Nur bei geschlossenem Antwortraum einsetzen: Routing, Klassifikation, Relevanz, Rangfolge, Auswahl aus aufgezählten Kandidaten, Ja/Nein-Schranken.
• Rechnen, Zählen und Datumsvergleiche im Code behalten; die Seite zu den bekannten Schwächen von jev-1.13 nennt Zählen, numerische Darstellungen und Datumsvergleiche ausdrücklich als unzuverlässig.
• Den Zustand vor dem Aufruf filtern; unpassendes Material senkt laut Anbieter die Genauigkeit.
• Wahrscheinlichkeiten lesen, nicht nur die Gewinneroption; eine flache Verteilung heisst «weiss nicht».
• Die versionierte Modellkennung aus jeder Antwort protokollieren und nach dem Einstellen von Schwellen die Version festschreiben, weil Aliasse wandern.

Stolpersteine

Geschwindigkeits- und Kostenangaben stammen vom Anbieter und waren zum Zeitpunkt dieses Beitrags nicht unabhängig repliziert. Schemakonformität ist nicht Korrektheit: Das Modell kann keinen Wert ausserhalb der Optionen liefern, aber die falsche Option mit hoher Wahrscheinlichkeit wählen. Zustand gilt laut Anbieter nicht als feindlich; eingeschleuste Anweisungen können die Antwort verschieben. Text erzeugen kann das Modell nicht.