Antes de entregar um problema a um agente inteligente, vale reduzir o espaço de decisão. E, depois que o agente age, vale verificar o que ele fez.
O que é
Uma camada de decisão é o trecho de uma arquitetura agêntica que responde a perguntas estreitas e recorrentes antes (ou depois) de o trabalho ser entregue a um LLM generativo. Exemplos de perguntas: qual é a intenção desta solicitação?, qual destas ferramentas cabe aqui?, esta operação escreve em algo?, o resultado respeitou as regras?
A ideia central é separar dois tipos de trabalho cognitivo:
- decidir entre opções conhecidas, de forma rápida, barata e auditável;
- raciocinar e gerar, que continua sendo papel dos modelos maiores.
O padrão não depende de nenhum fornecedor. Ele pode ser implementado com regras, com um classificador tradicional, com um LLM em modo de saída estruturada ou com um modelo especializado em decisões, como o Jev.
Por que separar decisão de geração
Quando um único LLM interpreta o pedido, escolhe o caminho, executa e ainda avalia o próprio resultado, os erros ficam difíceis de localizar: não se sabe se falhou o entendimento, a escolha de ferramenta, a permissão ou a execução. Separar as etapas permite medir cada uma.
Esse raciocínio é coerente com a orientação de que sistemas agênticos devem começar simples e ganhar complexidade apenas quando isso melhora resultados comprovadamente. O padrão de roteamento aparece de forma explícita nessa literatura: classificar a entrada e encaminhá-la a um tratamento especializado, inclusive escolhendo modelos maiores ou menores conforme a dificuldade (Anthropic, Building Effective Agents).
Componentes de um desenho possível
Não existe arquitetura única. O desenho abaixo é uma síntese didática dos padrões descritos nas fontes consultadas, não um padrão normativo.
| Etapa | Pergunta que responde | Quem resolve tipicamente |
|---|---|---|
| Resolução de contexto | O que já sabemos objetivamente? (caminho, entidades citadas, sinais explícitos) | código |
| Resolução de candidatos | Quais opções são plausíveis? (agentes, skills, ferramentas, modelos) | registro/catálogo |
| Decisão | O que isso significa? Qual das poucas opções cabe? | regras, classificador ou modelo de decisão |
| Política | Isso é permitido? Precisa de confirmação humana? | regras declaradas |
| Execução | Como resolver? | LLM de raciocínio/geração, agentes, ferramentas |
| Verificação | O que foi feito está coerente e dentro das regras? | regras, modelo de decisão, humano |
| Registro e avaliação | Onde ocorreu o erro e como não repeti-lo? | trace, evals |
1. Resolver fatos em código antes de julgar
Muitas "decisões" não exigem inteligência: se o pedido cita um caminho de pasta, um repositório ou uma ferramenta conhecida, isso é fato, não interpretação. Resolver esses fatos em código deixa para o modelo apenas a ambiguidade real.
A documentação do Jev reforça essa prática por outro motivo: a acurácia cai quando o estado enviado contém detalhes irrelevantes, e a recomendação é filtrar antes de decidir (TypeSafe, Jev 1.13 jaggedness).
2. Reduzir candidatos antes de classificar
Em vez de perguntar "qual destas 80 skills?", filtrar por domínio, componente e capacidade até restarem poucas candidatas, e só então decidir entre elas. O cookbook oficial de Skill Suggestion da TypeSafe segue essa linha: pontua skills candidatas contra o estado atual para escolher qual carregar (Cookbooks System One).
3. Decisões pequenas, independentes e com abstenção
Em vez de uma pergunta grande ("o que devo fazer?"), fazer várias perguntas pequenas sobre o mesmo estado: domínio, intenção, tipo de operação, complexidade. Cada resposta carrega sua própria confiança e pode ser auditada separadamente. Chamaremos esse conjunto de pacote de decisões.
Cada pergunta deve admitir uma saída do tipo desconhecido / não sei. Forçar uma escolha é pior do que declarar incerteza. Na literatura de aprendizado de máquina isso é conhecido como classificação seletiva (selective classification ou reject option): o classificador se abstém quando a confiança é insuficiente, trocando cobertura por menor risco (Geifman e El-Yaniv, NeurIPS 2017).
Uma nuance prática: a avaliação da Langfuse com o Jev registra que o modelo não tem, por si só, uma opção de abstenção, o que obriga a modelar "desconhecido" como uma alternativa explícita da pergunta ou a tratá-la por limiar de confiança (Langfuse, 18/09/2026).
4. Confiança não é autoridade
Uma decisão de alta confiança indica que o modelo está seguro, não que a ação é permitida. Quem autoriza é a política, que considera também impacto e reversibilidade.
| Decisão | Confiança | Impacto | Resultado esperado |
|---|---|---|---|
| Escolher uma skill de leitura | alta | baixo | prossegue |
| Escolher em qual projeto registrar | média | médio | validar contexto |
| Editar um documento | muito alta | médio | política decide |
| Apagar, publicar, implantar | qualquer | alto | confirmação humana |
O cookbook de Confidence-Gated Routing descreve o uso da confiança como insumo de roteamento: agir na confiança alta, confirmar na média, escalar a um humano ou a um LLM na baixa (Cookbooks System One). Uma análise independente faz a mesma ressalva pelo outro lado: confiança alta não concede acesso nem dispensa controles de risco (Wavect, 18/09/2026).
5. Começar em modo sugestão
Uma adoção prudente começa em modo sombra (shadow mode): a camada de decisão recomenda, o sistema registra a recomendação, e a decisão realmente usada segue o caminho já existente. Comparar as duas gera um conjunto de dados real antes de qualquer roteamento automático. A mesma revisão independente recomenda piloto controlado, versão fixada, conjunto de teste representativo, comparação em modo sombra, alternativas determinísticas e reversão testada.
6. Verificar depois da execução
Decidir bem no início não impede que o agente derive no meio do caminho, por exemplo, propondo uma escrita que não foi autorizada. A camada de decisão também pode atuar depois: perguntas curtas como "o objetivo foi atendido?", "houve mudança de escopo?", "houve ação destrutiva?" e "precisa de revisão humana?" aplicadas ao resultado ou ao registro (trace) da execução.
O material de lançamento da TypeSafe posiciona o Jev também nessa função: verificar, pontuar e aplicar guardrails sobre saídas de LLMs. A Anthropic descreve padrão semelhante ao separar uma instância que responde de outra que faz a triagem. Um fluxo completo de trace de agentes com classificação de desfechos foi citado no material que originou esta página, mas não o localizei entre os cookbooks oficiais consultados, por isso não é tratado aqui como prática documentada.
7. Avaliar decisões, inclusive o gabarito
Uma camada de decisão precisa de evals: casos reais, resposta esperada, custo e latência. Um cuidado importante é revisar o gabarito. Quando quase todos os modelos "erram" um mesmo caso, o problema pode estar na resposta esperada, na definição da pergunta ou na falta de contexto, e não nos modelos. Vale classificar os casos por grau de ambiguidade, para separar acerto em casos claros de acerto em casos difíceis, e medir também a qualidade da abstenção.
Onde o Jev entra
O Jev é um dos provedores possíveis para a etapa de decisão. Segundo a TypeSafe, ele recebe estado não estruturado e devolve decisões tipadas com probabilidades, com primitivas de escolha, pontuação e pergunta binária. O uso proposto inclui roteamento, classificação, ramificação e verificação. Detalhes e ressalvas de fornecedor estão na página do modelo.
Ele não substitui o modelo de um agente de código: continua sendo necessário um LLM para raciocinar, escrever e usar ferramentas.
Limites e cuidados
- Tipo válido não é decisão correta. A garantia de tipagem impede valores fora do conjunto de opções, mas o modelo ainda pode escolher a opção errada. A avaliação independente da Wavect formula isso como: a saída tipada evita valores fora do esquema, mas não garante que o valor escolhido esteja correto.
- Interpretação literal e contexto irrelevante. A documentação oficial do jev-1.13 lista leitura literal, contagem pouco confiável, aritmética e datas frágeis, dificuldade com múltiplos saltos de raciocínio, distração por contexto irrelevante e ausência de defesa nativa contra conteúdo adversarial (TypeSafe). Contas e datas devem ficar em código.
- Sem explicação. Sem raciocínio na saída, depurar exige traces e casos de teste. Rationales voltados a pessoas ainda pedem um modelo generativo (Langfuse).
- Idioma. A própria avaliação independente indica que o inglês é a língua principal e que outros idiomas exigem avaliação específica da carga de trabalho. Para entradas em português, construir um conjunto de testes em português antes de adotar.
- Privacidade. A TypeSafe afirma que requisições de clientes não são usadas para treinar o Jev e que há retenção zero para clientes corporativos. Antes de enviar conteúdo sensível, conferir DPA, retenção, região e termos aplicáveis (Wavect).
- Maturidade e evidência. Velocidade, custo e desempenho publicados no lançamento são, em boa parte, do próprio fornecedor. Uma medição de terceiros, reportada pela Langfuse, mostrou 91,5% de concordância com um LLM de referência em 6.003 verificações de rubrica, o que sugere utilidade para avaliações, mas mede concordância com outro modelo, não correção absoluta.
- Nem tudo precisa dessa camada. Se poucas regras simples resolvem o roteamento, código puro é mais previsível. Uma camada de decisão se justifica quando as regras ficam frágeis ou numerosas.
Conteúdos relacionados
- Jev — modelo de decisão da TypeSafe AI — o modelo que serve de exemplo de provedor de decisão.
- Engenharia de Grafos — o desenho de etapas, transições e validações onde decisões estruturadas se encaixam.
- IA Operacional — Framework CHIA — contexto, habilidades, integrações e automações, que fornecem os candidatos e ferramentas da decisão.
- Engenharia de Software com GenAI e IA Agêntica — governança e responsabilidade humana no ciclo de desenvolvimento com agentes.
Como aprofundar
- Pergunta: para roteamento de pedidos em português, quanto uma camada de decisão supera regras simples e um LLM em modo estruturado, em acurácia, custo e latência?
- Fonte ou método: montar 100 a 200 casos reais rotulados por uma pessoa, marcar o grau de ambiguidade de cada um e comparar regras, LLM com saída estruturada e Jev, em modo sombra.
- Por que importa: as evidências públicas disponíveis são majoritariamente em inglês e do fornecedor.
- Pergunta: quais limiares de confiança são adequados por tipo de decisão?
- Fonte ou método: curvas de cobertura versus risco, conforme a classificação seletiva (Geifman e El-Yaniv), aplicadas ao conjunto de casos acima.
- Por que importa: limiares únicos escondem decisões de impacto diferente.
- Pergunta: verificação pós-execução com modelo de decisão detecta desvios de política melhor que regras sobre o trace?
- Fonte ou método: replicar o cenário com traces reais e comparar com regras determinísticas.
- Por que importa: a alegação de uso como verificador aparece na documentação do fornecedor, mas não encontrei validação independente.
- Pergunta: roteamento entre modelos por dificuldade reduz custo sem perder qualidade?
- Fonte ou método: estudar o RouteLLM (arXiv 2406.18665), que treina roteadores entre modelo forte e fraco e reporta redução de custo superior a 2x em alguns casos.
- Por que importa: é evidência acadêmica independente do padrão de roteamento por complexidade.
Fontes e caminhos de aprofundamento
Consultadas diretamente
- TypeSafe AI. Introducing System One Models & Jev (15/09/2026): https://typesafe.ai/blog/introducing-system-one-models-and-jev
- TypeSafe AI, documentação. Jev 1.13 jaggedness (limitações conhecidas): https://docs.typesafe.ai/model-jaggedness/jev-1.13
- Official cookbooks and patterns for Jev (roteamento de intenção, sugestão de skill, roteamento condicionado à confiança, guardrails): https://systemonemodels.org/examples/cookbooks/
- Anthropic. Building Effective Agents: https://www.anthropic.com/engineering/building-effective-agents
- Geifman, Y.; El-Yaniv, R. Selective Classification for Deep Neural Networks (NeurIPS 2017): https://arxiv.org/abs/1705.08500
- Langfuse. Using TypeSafe's Jev for evals (18/09/2026): https://langfuse.com/blog/2026-09-18-using-typesafes-jev-for-evals
- Wavect. Jev AI Review: Decision Models for Agent Workflows (18/09/2026): https://wavect.io/blog/jev-ai-decision-model-review/
Localizadas, ainda não lidas integralmente
- Ong, I. et al. RouteLLM: Learning to Route LLMs with Preference Data (ICLR 2025): https://arxiv.org/abs/2406.18665. Consultado apenas o resumo.
Sugeridas para investigação
- Cookbook oficial de observabilidade/triagem de traces de agentes, mencionado no material de origem, mas não localizado nos cookbooks consultados.
Proveniência e confiança
- Fonte inicial: conversa com um assistente de IA que resumia vídeos e documentação sobre o Jev. Autoria e canal dos vídeos não identificados; nada dela foi tratado como fato sem confirmação externa.
- Confirmado em fonte primária/institucional: conceito e primitivas do Jev, limitações do jev-1.13, cookbooks de roteamento, sugestão de skill, confiança e guardrails.
- Confirmado em fonte independente: ressalvas sobre correção semântica, idioma, privacidade, ausência de abstenção nativa e recomendação de piloto em modo sombra.
- Síntese editorial: a tabela de etapas, o pacote de decisões e a matriz confiança × impacto são organização didática desta página, não padrão de mercado.
- Confiança: alta para descrição do Jev e de suas limitações; moderada para benefícios em produção (evidência ainda majoritariamente do fornecedor); baixa para o uso como verificador pós-execução.
Estado editorial: emergente e volátil. Custos, prazos e desempenho do Jev mudam rápido e devem ser reconferidos nas fontes.
Última revisão: 2026-09-24