A Baseten lançou em 20 de novembro de 2026 os modelos abertos bison-1 e groundhog-1, voltados a uma tarefa específica: tomar decisões estruturadas com probabilidade calibrada, em vez de escrever respostas em linguagem natural. Baseados na família Gemma 4 do Google, os dois aceitam texto e imagens, têm janela de contexto de 128 mil tokens e podem ser usados por API ou com pesos disponibilizados no Hugging Face. O bison-1, de 31 bilhões de parâmetros, lidera o Artificial Analysis Decision Index v2.1 entre os 19 modelos comparados pela plataforma, segundo a Baseten.

O lançamento interessa a equipes que já usam LLMs para rotear tickets, aplicar políticas, priorizar casos ou decidir quando chamar uma ferramenta. Nesses fluxos, a saída desejada não é um parágrafo persuasivo: é uma escolha, uma nota ou uma probabilidade que o sistema consiga auditar e transformar em regra.

Em resumo

  • bison-1 é um modelo de decisão de 31B parâmetros, pós-treinado a partir do Gemma 4 31B.
  • groundhog-1 parte do Gemma 4 26B-A4B, uma arquitetura mixture-of-experts; a Baseten o posiciona como alternativa de menor custo.
  • Os dois recebem texto e imagem, trabalham com 128 mil tokens de contexto e retornam decisões estruturadas com probabilidades.
  • Os pesos estão publicados no Hugging Face sob licença declarada como MIT + Apache-2.0; a Baseten também oferece os modelos por API.
  • O preço de entrada anunciado pela Baseten é de US$ 0,10 por 1 milhão de tokens para bison-1 e US$ 0,035 para groundhog-1. Como o produto não gera uma resposta textual livre, a página do bison-1 lista somente cobrança de entrada.

O que é um modelo de decisão

Um modelo de decisão é treinado para responder perguntas delimitadas sobre um estado fornecido pela aplicação. Em vez de continuar uma conversa, ele recebe um contexto — por exemplo, a mensagem de um cliente, o histórico de um caso e uma política interna — e uma ou mais perguntas com formato definido.

Na interface documentada pela Baseten, as perguntas podem ser do tipo yes/no, escolha entre opções nomeadas ou pontuação ordenada. A resposta inclui a opção escolhida e probabilidades associadas. Isso permite estabelecer limiares explícitos: encaminhar um pedido para revisão humana abaixo de determinada confiança, liberar automaticamente apenas uma classe de casos ou registrar por que uma rota foi escolhida.

Essa diferença é relevante. Um chatbot pode explicar que uma solicitação parece ser de cobrança, mas uma fila automatizada precisa de algo mais rígido, como billing: 0,94 e support: 0,06. A probabilidade não elimina a necessidade de testes, porém oferece um sinal numérico mais apropriado para sistemas de triagem do que interpretar texto gerado a cada chamada.

Arquitetura, contexto e modalidades

Característicabison-1groundhog-1
Modelo-baseGemma 4 31BGemma 4 26B-A4B
Tamanho declarado31B parâmetros26B em arquitetura MoE
Contexto128 mil tokens128 mil tokens
EntradaTexto e imagemTexto e imagem
SaídaDecisão estruturada e probabilidadesDecisão estruturada e probabilidades
DistribuiçãoAPI Baseten e pesos no Hugging FaceAPI Baseten e pesos no Hugging Face
Preço de entrada na APIUS$ 0,10 / 1 milhão de tokensUS$ 0,035 / 1 milhão de tokens
Especificações anunciadas pela Baseten e metadados dos cartões dos modelos no Hugging Face.

O salto de contexto é importante para esse tipo de produto. A geração anterior da família da Baseten trabalhava com 16 mil tokens; bison-1 e groundhog-1 passam a 128 mil. Na prática, isso pode permitir avaliar uma política longa, uma conversa extensa e evidências de um caso em uma mesma requisição, sem resumir tudo antecipadamente. Ainda assim, uma janela maior não transforma automaticamente qualquer processo em decisão confiável: entradas muito longas podem conter instruções conflitantes, dados irrelevantes ou informações sensíveis que exigem filtragem antes do envio.

Como a API é usada

A Baseten afirma que os novos modelos mantêm a mesma API dos seus modelos de decisão anteriores. A integração consiste em enviar o identificador do modelo, um state com o caso a ser avaliado e um conjunto de perguntas. O exemplo oficial do bison-1 classifica um pedido de reembolso entre as filas de cobrança e suporte técnico.

{
  "model": "decision-models/baseten-bison-latest",
  "state": {
    "message": "Fui cobrado duas vezes. Solicito estorno da cobrança duplicada."
  },
  "questions": {
    "route": {
      "type": "choice",
      "instructions": "Qual equipe deve atender este pedido?",
      "criteria": {
        "billing": "Pagamentos, cobranças e estornos",
        "support": "Falhas e suporte técnico"
      }
    }
  }
}

O valor desse formato está em separar a regra de negócio da redação do prompt. A aplicação define alternativas e critérios de forma estável, guarda a resposta estruturada e decide o que fazer depois. Para produção, a recomendação é versionar perguntas e critérios, registrar a versão do modelo e manter uma amostra de casos revisados por pessoas; sem esse conjunto de avaliação, uma probabilidade aparentemente precisa pode mascarar viés ou mudança de distribuição dos dados.

Benchmark: o que o primeiro lugar mede — e o que não mede

A Baseten informa que o bison-1 alcançou 76 pontos no Artificial Analysis Decision Index v2.1, à frente de d1.2-ultra, com 75, e mammoth-1, com 71. A empresa também divulga Brier score de 0,14 e afirma que esse é o melhor valor de calibração do índice; nessa métrica, menor é melhor porque a pontuação penaliza previsões excessivamente confiantes quando estão erradas.

Esses resultados são úteis como sinal comparativo, mas não substituem avaliação no caso de uso brasileiro de cada empresa. O índice reúne tarefas específicas e a própria Baseten é a fonte das afirmações de lançamento. Além disso, groundhog-1 ainda não tinha uma pontuação oficial no Decision Index no anúncio. Portanto, não é correto inferir que o modelo menor tenha o mesmo desempenho do bison-1, mesmo que compartilhe parte da proposta técnica.

Onde os modelos podem ajudar

  • Roteamento de atendimento: classificar solicitações entre cobrança, suporte, risco, cancelamento e revisão humana.
  • Guardrails para agentes: avaliar se uma ferramenta pode ser chamada, se há tentativa de contornar política ou se o contexto contém uma instrução suspeita.
  • Triagem documental: atribuir uma nota de completude a propostas, sinistros, currículos ou cadastros antes de iniciar uma etapa manual.
  • Escolha de modelo: decidir se uma tarefa simples vai para um modelo barato, se precisa de busca adicional ou se deve escalar para um fluxo mais caro.
  • Análise multimodal: combinar texto com uma imagem quando a decisão depende de ambos, desde que a política de privacidade permita esse tratamento.

Limitações e cuidados antes de colocar em produção

Os pesos abertos não significam que o custo operacional local seja baixo. Os cartões do Hugging Face listam os dois modelos como variantes de 31B e 26B; para inferência local, o consumo real dependerá de precisão, quantização, tamanho do contexto, servidor de inferência e concorrência. A Baseten disponibiliza pesos BF16, mas o anúncio não deve ser lido como garantia de que haverá quantizações oficiais ou uma receita pronta para qualquer GPU.

Também há uma limitação funcional deliberada: esses modelos não foram apresentados como substitutos para um assistente de texto. Se a tarefa precisa redigir resposta, explicar uma decisão ao cliente ou resumir uma conversa, será necessário combinar o classificador com outro componente. E, se a decisão afeta crédito, emprego, saúde, preço ou acesso a serviço, a equipe deve validar requisitos legais, manter supervisão humana proporcional ao risco e testar disparidades entre grupos relevantes.

Por fim, “probabilidade calibrada” não é sinônimo de verdade. Calibração é uma propriedade mensurável em um conjunto de dados e pode se deteriorar quando o domínio muda. A implantação responsável exige acompanhar taxa de erro, confiança, recusas, revisões humanas e mudanças na política que alimenta o sistema.

Análise do NoticIA

O ponto mais interessante do bison-1 não é apenas o lugar em um ranking. É a tentativa de tratar a decisão como produto de primeira classe, com contrato de saída estruturada, contexto longo e uma métrica de confiança que pode entrar no código da aplicação. Para equipes brasileiras que estão saindo de protótipos de agentes, isso pode reduzir uma fragilidade comum: usar texto livre de um LLM como se fosse uma decisão determinística.

Ao mesmo tempo, o lançamento não resolve a parte difícil da automação: definir critérios corretos, proteger dados enviados ao provedor, criar conjuntos de teste representativos e decidir quando o sistema deve parar e pedir ajuda humana. O caminho mais pragmático é começar com tarefas reversíveis — como priorização e roteamento —, medir a calibração no próprio histórico e só depois considerar decisões de maior impacto.

Disponibilidade e licença

Os modelos estão disponíveis na Model API da Baseten e os pesos foram publicados nos repositórios baselabs/bison-1 e baselabs/groundhog-1 no Hugging Face. Os cartões indicam licença MIT + Apache-2.0 e identificam os modelos-base como Gemma 4. Antes de redistribuir, ajustar ou explorar comercialmente os pesos, a equipe deve ler os arquivos de licença e os termos aplicáveis aos modelos-base, em vez de assumir que a disponibilidade pública dispensa obrigações.



Descubra mais sobre noticiAI

Assine para receber nossas notícias mais recentes por e-mail.

Deixe seu comentário