Les modèles System One et Jev : des décisions typées à probabilités calibrées plutôt que du texte généré

Ce que c'est

La documentation de TypeSafe AI décrit une catégorie de modèles qu'elle appelle System One models, dont le premier représentant est Jev. Au lieu de générer du texte, le modèle évalue des questions typées par rapport à un état (une chaîne, un objet JSON ou un tableau de texte) et retourne des réponses typées. Les trois types de questions sont Choice (choisir une option parmi un ensemble défini ; retourne l'option, une probabilité par option et une confiance), Score (noter l'état par rapport à une liste ordonnée de deux à dix niveaux ; retourne un score pondéré par probabilité pouvant se situer entre deux niveaux, les probabilités et une confiance) et Noul (une question oui/non ; retourne la probabilité de oui, sans confiance distincte). Toutes les questions d'une même requête sont évaluées en parallèle et indépendamment par rapport au même état.

Le fournisseur indique que le modèle est entraîné avec une méthode qu'il appelle Reinforcement Learning for Calibrated Decisions (RLCD), de manière à ce que ses probabilités reflètent l'incertitude, et précise que la calibration est mesurée sur des groupes de prédictions et ne garantit pas qu'une réponse individuelle soit correcte. Le modèle n'est pas affiné (fine-tuné) avec des données clients ; la connaissance du domaine passe par l'état ainsi que par la formulation des instructions et des critères.

Pourquoi c'est important

Les agents doivent prendre de nombreuses petites décisions : quel gestionnaire prend en charge une requête, si un passage récupéré est pertinent, si le résultat d'un outil contient une instruction, lequel de plusieurs candidats correspond à un enregistrement. Faire cela avec un modèle conversationnel implique de générer du texte puis de le reparser. Un modèle dont la sortie est contrainte aux options définies par l'appelant supprime cette étape d'analyse et fournit au code une distribution sur laquelle brancher, trier ou appliquer un seuil. Les faits documentés qu'un agent devrait retenir (en date de septembre 2026, accès anticipé, sujets à changement sans préavis selon le fournisseur) : le modèle jev-1.13.0 derrière les alias jev-latest et jev-preview ; POST https://api.typesafe.ai/v1/systemone; un prix de 0,042 USD par million de tokens en entrée, les tokens en sortie étant gratuits ; des limites de débit de 250 000 tokens par seconde et 1 200 requêtes par minute ; 64k tokens par requête pour l'état plus toutes les questions, et 32k pour l'état plus la question la plus longue ; entrée texte uniquement ; l'anglais comme langue d'entraînement principale, avec une précision moindre documentée pour les autres langues.

Comment l'appliquer

• L'utiliser là où l'espace des réponses est fermé : routage, classification, pertinence, classement, extraction sur des candidats énumérés, portes oui/non.
• Garder le contrôle dans le code : le modèle décide d'une seule chose atomique par question ; le déroulé, les calculs et les seuils restent dans le programme appelant.
• Lire les probabilités, pas seulement l'option gagnante ; une distribution plate signifie que le modèle indique qu'il ne sait pas.
• Journaliser le champ model de chaque réponse et figer un identifiant versionné une fois les seuils réglés, car les alias évoluent.

Pièges

Les chiffres de vitesse et de coût de l'annonce de lancement (70 à 500 ms de bout en bout, « 40x-200x faster », « 193.6x faster, 444.6x cheaper » sur les évaluations de workflow du fournisseur) proviennent du fournisseur et n'avaient, au moment de la rédaction, fait l'objet d'aucune reproduction indépendante. La conformité au schéma n'est pas la justesse : le modèle ne peut pas retourner une valeur en dehors des options, mais il peut choisir la mauvaise option avec une forte probabilité. L'écart de génération est réel : il ne peut ni rédiger une réponse, ni un résumé, ni du code, et la documentation indique que forcer la génération via des choix enchaînés fonctionne mal.