Quanto custa rodar LLM em produção? Comparativo de 7 provedores de inferência em 2026

Não existe “o provedor mais barato”

A resposta curta do comparativo da DigitalOcean — que analisou os preços públicos de sete plataformas de inferência em julho de 2026 — é que não existe um provedor mais barato para todos os casos. O vencedor depende do modelo, da proporção entre tokens de entrada e saída, da latência exigida, da elegibilidade para processamento em lote e da taxa de acerto de cache.

As plataformas comparadas foram DigitalOcean, Together AI, Fireworks AI, Modal, Nebius, Baseten e OpenRouter — com a OpenAI usada apenas como âncora de preço para modelos proprietários.

Os destaques por cenário

Em cenários de tempo real com o modelo aberto gpt-oss-120b (360 milhões de tokens de entrada e 90 milhões de saída por mês), a DigitalOcean aparece como a mais barata: US$ 99 por mês, contra cerca de US$ 108 na Together AI e na Fireworks AI.

Para processamento assíncrono em lote — classificação de um milhão de documentos, por exemplo — a Fireworks Batch cobra 50% do preço padrão e reduz o custo para US$ 69, contra US$ 138 na taxa normal.

Já em chatbots com alta taxa de cache (70% de acerto), a Fireworks AI também sai na frente, com estimativa de US$ 73,98 por mês.

O peso do cache e do lote

Duas alavancas dominam a economia da inferência. A primeira é o prompt caching: entradas em cache na Fireworks custam US$ 0,015 por milhão de tokens (contra US$ 0,15 sem cache), um desconto de 10x que muda o vencedor de qualquer comparação. A segunda é o processamento em lote, que em todos os provedores comparados oferece cerca de 50% de desconto para workloads que não exigem resposta imediata.

O que o preço por token não conta

O comparativo faz um alerta importante: preço por token não é o mesmo que custo por tarefa bem-sucedida. Um modelo mais barato pode errar mais, exigir prompts maiores, mais tentativas ou intervenção humana. Outros fatores pesam tanto quanto o preço:

• Limites de taxa e capacidade: preço baixo não vale se a aplicação não consegue tokens por minuto suficientes.
• Latência e cold starts: medir o tempo até o primeiro token e os percentis P95/P99, não apenas a média.
• Confiabilidade e qualidade: contar tarefas concluídas, não respostas HTTP 200.
• Diferenças de serviço: o mesmo nome de modelo pode esconder versões, quantizações e janelas de contexto diferentes.

Dicas práticas para reduzir custos

Entre as estratégias listadas, quatro merecem destaque. Mova trabalhos assíncronos para batch; coloque instruções estáveis, definições de ferramentas e esquemas no início do prompt para maximizar o cache; encaminhe requisições rotineiras a modelos menores e escale apenas casos complexos; e meça o custo por tarefa bem-sucedida, não por token.

Para cargas sustentadas e previsíveis, a inferência dedicada pode sair mais barata que o serverless — a DigitalOcean anuncia uma GPU AMD MI300X a US$ 2,59/hora e uma NVIDIA H100 a US$ 4,41/hora. O ponto de equilíbrio depende do throughput medido e da utilização.

Conclusão

A lição durável do comparativo é simples: otimize por custo por tarefa bem-sucedida, não por custo por milhão de tokens isolado. Meça a versão do modelo, a proporção entrada/saída, a taxa de cache, a distribuição de latência, as tentativas, a qualidade e a infraestrutura ao redor — e rode um benchmark pequeno, mas representativo, antes de escolher.