Abster-se como agente: quando não agir é a saída correta

O que é

Abstenção é uma saída que diz "sem decisão" e aciona outro caminho: uma confirmação, uma pessoa, um modelo mais forte, uma nova tentativa com mais contexto ou simplesmente nada. Aplica-se a um classificador que escolhe uma categoria, a um roteador que escolhe um handler e a um agente que decide se executa um passo. Sem ela, toda entrada é mapeada para alguma ação, inclusive as entradas que o sistema não consegue interpretar, e o erro aparece mais tarde como uma ação errada, em vez de aparecer agora como um caso em aberto.

Por que importa

Um sistema que só pode agir é medido pela taxa de ações erradas, e essa taxa é dominada pelos casos incertos. Dar ao sistema uma terceira saída tira esses casos da contagem de ações erradas e os leva para uma fila que pode ser tratada de forma deliberada. Fornecedores de modelos de decisão descrevem a mesma estrutura: a documentação de confiança do TypeSafe recomenda dividir a confiança em três faixas (agir, prosseguir com cautela, não agir) e definir os limites de acordo com o risco de cada ação, com um piso abaixo do qual o sistema nunca age com base na resposta. O princípio não depende desse modelo: qualquer probabilidade, pontuação ou autoavaliação pode controlar uma ação, desde que esse controle exista.

Como aplicar

• Adicione uma opção explícita "nenhuma destas" ou "não sei dizer" a toda decisão fechada, de modo que um encaixe ruim seja uma resposta, e não uma escolha forçada.
• Defina um piso de confiança ou probabilidade abaixo do qual o agente não age, além de limiares separados por ação, que aumentam conforme o custo de uma ação errada.
• Decida para onde vão os casos abstidos antes de ligar a automação: uma fila de revisão, um pedido de confirmação, uma regra de fallback. Uma abstenção sem destino é um descarte silencioso.
• Conte as abstenções como um resultado próprio no monitoramento; uma taxa de abstenção crescente é um sinal precoce de drift ou de um novo tipo de entrada.
• Nos passos do próprio agente, trate "não sei o suficiente para fazer isso com segurança" como um estado de conclusão legítimo e reporte-o como tal, indicando o que o resolveria.

Armadilhas

Limiares definidos uma vez e nunca revistos acabam virando uma porta escancarada ou uma fila que ninguém lê; ambos os casos são mensuráveis e ambos são comuns. Uma abstenção que é punida (um agente avaliado apenas por tarefas concluídas, um classificador avaliado apenas por cobertura) acaba sendo eliminada na prática. E abster-se não é gratuito: quem recebe o caso, pessoa ou sistema, arca com o custo, então o controle deve ser calibrado considerando esse custo, e não apenas o custo de uma ação errada.