Decision 3.0: vLLM Semantic Router libera modelo aberto para decisões multimodais

O projeto vLLM Semantic Router publicou o d3, modelo-base da família Decision 3.0, para transformar texto, JSON, imagens e vídeos em decisões estruturadas com probabilidades — sem gerar uma resposta em linguagem natural. O lançamento, disponibilizado sob licença Apache-2.0 no Hugging Face, mira uma camada específica de sistemas de IA: escolher rotas, aplicar políticas, classificar casos e acionar fluxos com saídas previsíveis.

O d3 tem 26,09 bilhões de parâmetros, incluindo um encoder visual de 0,46 bilhão, segundo o cartão oficial. Ele aceita texto ou JSON e, opcionalmente, várias imagens e vídeos por requisição. Para cada pergunta, retorna uma alternativa, uma resposta sim/não ou uma nota em escala, acompanhada das probabilidades. O projeto afirma que o modelo melhorou 8,5 pontos sobre o Decision 2.0 de 27B no conjunto público Jev Decision Index.

Decision 3.0 não é um chatbot — e essa é a proposta

Em uma aplicação convencional de IA generativa, é comum pedir a um LLM que leia uma solicitação, explique qual área deveria atendê-la e depois extrair a resposta de um texto. Esse processo é flexível, mas pode falhar por formatação, ambiguidade ou variação de prompt. A proposta do d3 é diferente: a aplicação envia o estado e uma lista explícita de perguntas; o modelo avalia as opções e entrega uma estrutura pronta para código.

O cartão do modelo exemplifica uma solicitação de cliente que recebeu um produto danificado. A mesma chamada pode perguntar qual equipe deve assumir o caso, se há comprovante e qual é a urgência. Em vez de uma frase, o retorno vem com escolhas e níveis de confiança. Isso aproxima a camada de IA de um classificador ou motor de decisão, mas preserva a capacidade de lidar com linguagem, documentos e sinais visuais mais complexos que regras fixas.

Essa separação é relevante para agentes de IA. Um agente pode usar um modelo generativo para elaborar uma resposta, mas precisa de decisões mais controláveis para escolher ferramenta, escalonar uma exceção, detectar um possível dado sensível ou determinar se deve pedir intervenção humana. O vLLM Semantic Router se apresenta justamente como uma camada de decisão programável para modelos e computação.

O que o modelo recebe e devolve

O d3 trabalha com três tipos de pergunta: choice para selecionar uma opção entre critérios nomeados; noul para decisões binárias; e score para uma escala ordenada. A cada pergunta, o modelo calcula uma probabilidade para cada resposta permitida. Não há geração de texto livre nem uma etapa posterior obrigatória para interpretar a saída.

Para vídeo, o projeto diz usar até 32 quadros distribuídos pelo clipe, a dois quadros por segundo, e limitar cada quadro a até 0,2 megapixel nos padrões descritos. Isso dá uma pista importante: o modelo pode captar sinais temporais úteis, mas não é uma análise forense contínua de alta resolução. Se uma decisão depende de um detalhe de poucos frames, a equipe deve testar se a amostragem não o perde.

Benchmarks divulgados e o que eles permitem concluir

No Jev Decision Index 0.3.1, o d3 obteve 64,7 no índice geral, 65,5 no conjunto público, 62,8 em testes de mesma habilidade e 56,6 em novas áreas de tarefa. A tabela divulgada o coloca acima de Jev (60,1 no índice geral) e do Decision 2.0 de 27B (55,9). Em visão, o projeto informa 71,6 no Vision Index, com 74,2 na parcela pública. Para perguntas de múltipla escolha em vídeo, relata 77,4% no Perception Test de validação.

Os números merecem uma leitura cuidadosa. A tabela compara modelos no mesmo kit público, o que é útil, mas parte dos resultados de vídeo é classificada pelo próprio cartão como avaliação interna. Além disso, liderança em um índice de decisão não significa que o modelo seja a melhor opção para conversa, escrita, programação ou raciocínio aberto. O d3 foi otimizado para escolher entre alternativas definidas; tratar essa especialização como uma medida geral de “inteligência” seria incorreto.

Há ainda requisitos de execução a considerar. O quickstart oficial instala uma pilha de PyTorch, Transformers, visão computacional e, opcionalmente, kernels de atenção. O cartão registra testes em uma GPU AMD Instinct MI325X. O projeto não apresenta, na fonte consultada, uma oferta gerenciada equivalente a uma API pública universal; por isso, a adoção pode exigir infraestrutura, empacotamento ou integração com o ecossistema do próprio Semantic Router.

Por que isso importa para quem constrói produtos de IA

O custo de um agente não é apenas o número de tokens gerados. Em fluxos de alto volume, decisões pequenas se repetem milhares de vezes: identificar a intenção de um ticket, escolher um modelo, estimar risco de uma ação, verificar se um anexo corresponde ao pedido ou priorizar uma fila. Usar um modelo gerador completo em cada um desses pontos pode aumentar latência e introduzir comportamento textual difícil de auditar.

Uma camada de decisão como o d3 oferece uma arquitetura alternativa: definir a política no esquema de opções, pedir probabilidades e criar regras de fallback. Por exemplo, um sistema pode encaminhar automaticamente apenas casos com confiança acima de um limiar e deixar o restante para uma pessoa. A qualidade do produto deixa de depender exclusivamente de um prompt e passa a depender também da qualidade dos critérios, do conjunto de avaliação e da governança dessas regras.

Quatro cenários práticos para avaliar

• Atendimento e pós-venda: classificar solicitação, urgência e documentação recebida em uma só estrutura, sem depender de parsing de uma resposta textual.
• Roteamento de agentes: escolher ferramenta, modelo ou política de execução a partir do contexto de uma tarefa e dos resultados intermediários.
• Triagem documental: usar texto de formulário e imagem de comprovante para decidir se há evidência suficiente para a próxima etapa.
• Monitoramento operacional: transformar alertas, logs estruturados e capturas visuais em prioridades que uma equipe consiga revisar.

Limites: probabilidades não substituem responsabilidade

Probabilidade é uma medida de confiança do modelo dentro de uma pergunta e um conjunto de opções; não é prova de verdade nem autorização para automatizar consequências graves. Se as categorias estiverem incompletas, se os dados de entrada forem enviesados ou se o caso real estiver fora do domínio do treinamento, uma resposta bem formatada ainda poderá estar errada.

Isso é especialmente relevante para crédito, seleção de pessoas, saúde, segurança e serviços públicos. Nesses contextos, a integração precisa de avaliação local, registro de decisões, revisão humana proporcional ao risco e uma rota clara para contestação. Também é necessário testar entradas em português brasileiro, gírias, documentos locais e imagens de baixa qualidade; benchmarks em inglês não substituem essa validação.

Análise do NoticIA

O ponto mais interessante do Decision 3.0 não é somente o ganho declarado de benchmark. É a tentativa de transformar “decidir” em uma primitive própria da arquitetura de IA. Nos últimos ciclos, muitos sistemas usaram LLMs como uma camada universal — gerar, resumir, classificar e orquestrar. A abordagem do d3 sugere especializar as etapas: modelos generativos para conteúdo aberto e modelos de decisão para escolhas fechadas, repetíveis e observáveis.

Essa divisão pode reduzir fragilidade, mas transfere parte da complexidade para o desenho do esquema. Uma lista de opções mal construída pode impedir a resposta correta; limiares de confiança arbitrários podem produzir automação excessiva. O trabalho de produto passa a incluir curadoria de critérios, conjuntos de casos reais e monitoramento contínuo de erros. A abertura dos pesos facilita testar essa hipótese sem depender de uma única API, mas não elimina custo de infraestrutura nem de avaliação.

O que verificar antes de colocar em produção

Antes de usar o d3 em uma rota crítica, vale executar um piloto com casos históricos anotados, medir precisão por categoria e calibrar um limiar de escalonamento humano. É recomendável separar decisão de explicação: registrar a saída estruturada, mas fornecer ao operador evidência e contexto suficientes para revisar o caso. Para vídeo e imagem, a validação deve incluir as condições reais de captura, pois compressão, ângulo e qualidade podem alterar o resultado.

O lançamento amplia as opções abertas para equipes que querem construir camadas de decisão multimodais. A decisão de adoção, porém, deve ser feita pelo desempenho no domínio específico e pela qualidade da governança, não apenas pelo placar de um benchmark ou pela conveniência de uma saída JSON.