A Baseten lançou em 20 de novembro de 2026 os modelos abertos bison-1 e groundhog-1, voltados a uma tarefa específica: tomar decisões estruturadas com probabilidade calibrada, em vez de escrever respostas em linguagem natural. Baseados na família Gemma 4 do Google, os dois aceitam texto e imagens, têm janela de contexto de 128 mil tokens e podem ser usados por API ou com pesos disponibilizados no Hugging Face. O bison-1, de 31 bilhões de parâmetros, lidera o Artificial Analysis Decision Index v2.1 entre os 19 modelos comparados pela plataforma, segundo a Baseten.
O lançamento interessa a equipes que já usam LLMs para rotear tickets, aplicar políticas, priorizar casos ou decidir quando chamar uma ferramenta. Nesses fluxos, a saída desejada não é um parágrafo persuasivo: é uma escolha, uma nota ou uma probabilidade que o sistema consiga auditar e transformar em regra.
Em resumo
- bison-1 é um modelo de decisão de 31B parâmetros, pós-treinado a partir do Gemma 4 31B.
- groundhog-1 parte do Gemma 4 26B-A4B, uma arquitetura mixture-of-experts; a Baseten o posiciona como alternativa de menor custo.
- Os dois recebem texto e imagem, trabalham com 128 mil tokens de contexto e retornam decisões estruturadas com probabilidades.
- Os pesos estão publicados no Hugging Face sob licença declarada como MIT + Apache-2.0; a Baseten também oferece os modelos por API.
- O preço de entrada anunciado pela Baseten é de US$ 0,10 por 1 milhão de tokens para bison-1 e US$ 0,035 para groundhog-1. Como o produto não gera uma resposta textual livre, a página do bison-1 lista somente cobrança de entrada.
O que é um modelo de decisão
Um modelo de decisão é treinado para responder perguntas delimitadas sobre um estado fornecido pela aplicação. Em vez de continuar uma conversa, ele recebe um contexto — por exemplo, a mensagem de um cliente, o histórico de um caso e uma política interna — e uma ou mais perguntas com formato definido.
Na interface documentada pela Baseten, as perguntas podem ser do tipo yes/no, escolha entre opções nomeadas ou pontuação ordenada. A resposta inclui a opção escolhida e probabilidades associadas. Isso permite estabelecer limiares explícitos: encaminhar um pedido para revisão humana abaixo de determinada confiança, liberar automaticamente apenas uma classe de casos ou registrar por que uma rota foi escolhida.
Essa diferença é relevante. Um chatbot pode explicar que uma solicitação parece ser de cobrança, mas uma fila automatizada precisa de algo mais rígido, como billing: 0,94 e support: 0,06. A probabilidade não elimina a necessidade de testes, porém oferece um sinal numérico mais apropriado para sistemas de triagem do que interpretar texto gerado a cada chamada.
Arquitetura, contexto e modalidades
| Característica | bison-1 | groundhog-1 |
|---|---|---|
| Modelo-base | Gemma 4 31B | Gemma 4 26B-A4B |
| Tamanho declarado | 31B parâmetros | 26B em arquitetura MoE |
| Contexto | 128 mil tokens | 128 mil tokens |
| Entrada | Texto e imagem | Texto e imagem |
| Saída | Decisão estruturada e probabilidades | Decisão estruturada e probabilidades |
| Distribuição | API Baseten e pesos no Hugging Face | API Baseten e pesos no Hugging Face |
| Preço de entrada na API | US$ 0,10 / 1 milhão de tokens | US$ 0,035 / 1 milhão de tokens |
O salto de contexto é importante para esse tipo de produto. A geração anterior da família da Baseten trabalhava com 16 mil tokens; bison-1 e groundhog-1 passam a 128 mil. Na prática, isso pode permitir avaliar uma política longa, uma conversa extensa e evidências de um caso em uma mesma requisição, sem resumir tudo antecipadamente. Ainda assim, uma janela maior não transforma automaticamente qualquer processo em decisão confiável: entradas muito longas podem conter instruções conflitantes, dados irrelevantes ou informações sensíveis que exigem filtragem antes do envio.
Como a API é usada
A Baseten afirma que os novos modelos mantêm a mesma API dos seus modelos de decisão anteriores. A integração consiste em enviar o identificador do modelo, um state com o caso a ser avaliado e um conjunto de perguntas. O exemplo oficial do bison-1 classifica um pedido de reembolso entre as filas de cobrança e suporte técnico.
{
"model": "decision-models/baseten-bison-latest",
"state": {
"message": "Fui cobrado duas vezes. Solicito estorno da cobrança duplicada."
},
"questions": {
"route": {
"type": "choice",
"instructions": "Qual equipe deve atender este pedido?",
"criteria": {
"billing": "Pagamentos, cobranças e estornos",
"support": "Falhas e suporte técnico"
}
}
}
}O valor desse formato está em separar a regra de negócio da redação do prompt. A aplicação define alternativas e critérios de forma estável, guarda a resposta estruturada e decide o que fazer depois. Para produção, a recomendação é versionar perguntas e critérios, registrar a versão do modelo e manter uma amostra de casos revisados por pessoas; sem esse conjunto de avaliação, uma probabilidade aparentemente precisa pode mascarar viés ou mudança de distribuição dos dados.
Benchmark: o que o primeiro lugar mede — e o que não mede
A Baseten informa que o bison-1 alcançou 76 pontos no Artificial Analysis Decision Index v2.1, à frente de d1.2-ultra, com 75, e mammoth-1, com 71. A empresa também divulga Brier score de 0,14 e afirma que esse é o melhor valor de calibração do índice; nessa métrica, menor é melhor porque a pontuação penaliza previsões excessivamente confiantes quando estão erradas.
Esses resultados são úteis como sinal comparativo, mas não substituem avaliação no caso de uso brasileiro de cada empresa. O índice reúne tarefas específicas e a própria Baseten é a fonte das afirmações de lançamento. Além disso, groundhog-1 ainda não tinha uma pontuação oficial no Decision Index no anúncio. Portanto, não é correto inferir que o modelo menor tenha o mesmo desempenho do bison-1, mesmo que compartilhe parte da proposta técnica.
Onde os modelos podem ajudar
- Roteamento de atendimento: classificar solicitações entre cobrança, suporte, risco, cancelamento e revisão humana.
- Guardrails para agentes: avaliar se uma ferramenta pode ser chamada, se há tentativa de contornar política ou se o contexto contém uma instrução suspeita.
- Triagem documental: atribuir uma nota de completude a propostas, sinistros, currículos ou cadastros antes de iniciar uma etapa manual.
- Escolha de modelo: decidir se uma tarefa simples vai para um modelo barato, se precisa de busca adicional ou se deve escalar para um fluxo mais caro.
- Análise multimodal: combinar texto com uma imagem quando a decisão depende de ambos, desde que a política de privacidade permita esse tratamento.
Limitações e cuidados antes de colocar em produção
Os pesos abertos não significam que o custo operacional local seja baixo. Os cartões do Hugging Face listam os dois modelos como variantes de 31B e 26B; para inferência local, o consumo real dependerá de precisão, quantização, tamanho do contexto, servidor de inferência e concorrência. A Baseten disponibiliza pesos BF16, mas o anúncio não deve ser lido como garantia de que haverá quantizações oficiais ou uma receita pronta para qualquer GPU.
Também há uma limitação funcional deliberada: esses modelos não foram apresentados como substitutos para um assistente de texto. Se a tarefa precisa redigir resposta, explicar uma decisão ao cliente ou resumir uma conversa, será necessário combinar o classificador com outro componente. E, se a decisão afeta crédito, emprego, saúde, preço ou acesso a serviço, a equipe deve validar requisitos legais, manter supervisão humana proporcional ao risco e testar disparidades entre grupos relevantes.
Por fim, “probabilidade calibrada” não é sinônimo de verdade. Calibração é uma propriedade mensurável em um conjunto de dados e pode se deteriorar quando o domínio muda. A implantação responsável exige acompanhar taxa de erro, confiança, recusas, revisões humanas e mudanças na política que alimenta o sistema.
Análise do NoticIA
O ponto mais interessante do bison-1 não é apenas o lugar em um ranking. É a tentativa de tratar a decisão como produto de primeira classe, com contrato de saída estruturada, contexto longo e uma métrica de confiança que pode entrar no código da aplicação. Para equipes brasileiras que estão saindo de protótipos de agentes, isso pode reduzir uma fragilidade comum: usar texto livre de um LLM como se fosse uma decisão determinística.
Ao mesmo tempo, o lançamento não resolve a parte difícil da automação: definir critérios corretos, proteger dados enviados ao provedor, criar conjuntos de teste representativos e decidir quando o sistema deve parar e pedir ajuda humana. O caminho mais pragmático é começar com tarefas reversíveis — como priorização e roteamento —, medir a calibração no próprio histórico e só depois considerar decisões de maior impacto.
Disponibilidade e licença
Os modelos estão disponíveis na Model API da Baseten e os pesos foram publicados nos repositórios baselabs/bison-1 e baselabs/groundhog-1 no Hugging Face. Os cartões indicam licença MIT + Apache-2.0 e identificam os modelos-base como Gemma 4. Antes de redistribuir, ajustar ou explorar comercialmente os pesos, a equipe deve ler os arquivos de licença e os termos aplicáveis aos modelos-base, em vez de assumir que a disponibilidade pública dispensa obrigações.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
