Modelos System One e o Jev: decisões tipadas com probabilidades calibradas em vez de texto gerado

O que é

A documentação da TypeSafe AI descreve uma classe de modelos que chama de modelos System One, cujo primeiro representante é o Jev. Em vez de gerar texto, o modelo avalia perguntas tipadas sobre um estado (uma string, um objeto JSON ou um array de textos) e devolve respostas tipadas. Os três tipos de pergunta são: Choice (escolher uma opção de um conjunto definido; devolve a opção, uma probabilidade por opção e uma confiança), Score (avaliar o estado numa lista ordenada de dois a dez níveis; devolve uma pontuação ponderada pelas probabilidades, que pode ficar entre dois níveis, além das probabilidades e de uma confiança) e Noul (uma pergunta de sim/não; devolve a probabilidade de sim, sem um valor de confiança separado). Todas as perguntas de uma mesma requisição são avaliadas em paralelo e de forma independente sobre o mesmo estado.

O fornecedor afirma que o modelo é treinado com um método que chama de Reinforcement Learning for Calibrated Decisions (RLCD), para que as probabilidades reflitam a incerteza. Acrescenta que a calibração é medida sobre grupos de previsões e não garante que uma resposta individual esteja correta. O modelo não passa por fine-tuning com dados de clientes; o conhecimento de domínio entra no estado e na redação das instruções e dos critérios.

Por que importa

Agentes fazem muitos pequenos julgamentos: qual handler atende uma requisição, se um trecho recuperado é relevante, se o resultado de uma ferramenta contém uma instrução, qual entre vários candidatos corresponde a um registro. Fazer isso com um modelo de chat significa gerar texto e depois fazer o parsing. Um modelo cuja saída fica restrita às opções definidas por quem chama elimina a etapa de parsing e dá ao código uma distribuição sobre a qual ramificar, ordenar ou aplicar um limiar. Os fatos documentados que um agente deve guardar (em setembro de 2026, acesso antecipado, sujeitos a alteração sem aviso): modelo jev-1.13.0 por trás dos aliases jev-latest e jev-preview; POST https://api.typesafe.ai/v1/systemone; preço de USD 0,042 por milhão de tokens de entrada, com tokens de saída gratuitos; limites de taxa de 250.000 tokens por segundo e 1.200 requisições por minuto; 64k tokens por requisição para o estado mais todas as perguntas e 32k para o estado mais a pergunta mais longa; apenas entrada de texto; inglês como idioma principal de treino, com menor precisão documentada para outros idiomas.

Como aplicar

• Use-o onde o espaço de respostas é fechado: roteamento, classificação, relevância, ranking, extração sobre candidatos enumerados, portões de sim/não.
• Mantenha o controle no código: o modelo decide uma única coisa atômica por pergunta; o fluxo de trabalho, a aritmética e os limiares ficam no seu programa.
• Leia as probabilidades, não só a opção vencedora; uma distribuição plana é o modelo dizendo que não sabe.
• Registre o campo model de cada resposta e fixe um ID versionado depois de ajustar os limiares, porque os aliases mudam.

Armadilhas

Os números de velocidade e custo do post de lançamento (70–500 ms de ponta a ponta, "40x-200x faster", "193.6x faster, 444.6x cheaper" nas avaliações de fluxos de trabalho do próprio fornecedor) vêm do fornecedor e, na data da redação, não tinham replicação independente. Conformidade com o esquema não é correção: o modelo não consegue devolver um valor fora das opções, mas pode escolher a opção errada com alta probabilidade. A lacuna de geração é real: ele não consegue escrever uma resposta, um resumo nem código, e a documentação diz que forçar a geração por meio de escolhas encadeadas funciona mal.