Como reduzir o orçamento de tokens sem reduzir a equipe

Jensen Huang tem um teste simples para saber se um engenheiro vale o salário — e ele envolve tokens. Falando no podcast All-In após a GTC 2026, o CEO da Nvidia disse que se um engenheiro de US$ 500 mil por ano consumir menos da metade do seu salário em tokens de IA, “vou ficar profundamente alarmado”. A Nvidia está caminhando para uma conta anual de US$ 2 bilhões só em tokens para sua força de engenharia.

Huang está descrevendo uma troca que a maioria das empresas já faz, com menos alarde: o dinheiro que antes pagava pessoas agora paga tokens. Os quatro maiores hyperscalers projetam cerca de US$ 700 bilhões em Capex combinado para 2026, quase o dobro do ano passado. Enquanto isso, a consultoria Challenger, Gray & Christmas reporta IA como o motivo mais citado para cortes de empregos nos EUA pelo quarto mês consecutivo.

Um memo interno da Meta obtido pela Reuters descreveu os cortes de 8.000 vagas em maio como compensação pelos “investimentos substanciais” da empresa — num trimestre em que a receita cresceu 33%. Essas demissões não são medida de sobrevivência. São financiamento.

O problema: os cortes não trouxeram retorno

O problema é que o financiamento não comprou o que prometeu. A Gartner entrevistou 350 executivos de empresas com mais de US$ 1 bilhão em receita, todas implantando agentes de IA ou automação, e descobriu que aproximadamente 80% cortaram headcount sem nenhuma correlação com melhoria de retorno. O veredito da analista Helen Poitevin foi direto: “Reduções de força de trabalho podem criar espaço no orçamento, mas não criam retorno.”

A Uber aprendeu o lado dos tokens dessa lição da forma mais cara: deu ferramentas de código com IA para 5.000 engenheiros em dezembro e queimou todo o orçamento de IA de 2026 até abril. O COO Andrew Macdonald admitiu que, apesar de 70% do código committed ser gerado por IA, a conexão com algo que os clientes percebem simplesmente não existe: “Esse link ainda não está lá.”

O orçamento de tokens dobra em meia dúzia de lugares

Coloque essas duas falhas lado a lado e o problema real entra em foco: as empresas trataram a conta de tokens como fixa e a força de trabalho como flexível — quando é o oposto. Cortes de folha acontecem uma vez e levam conhecimento institucional junto. O orçamento de tokens, ao contrário, dobra em vários lugares se alguém se der ao trabalho de fazer engenharia nele.

1. Cache de prompts

A correção mais barata é também a menos glamourosa: parar de pagar para processar o mesmo texto repetidamente. Prompt caching, agora padrão nas principais APIs, corta o custo de input repetido em até 90% — conteúdo estático como instruções de sistema e documentos de referência é processado uma vez e relido a uma fração do custo.

A empresa de segurança ProjectDiscovery documentou ter aumentado sua taxa de cache hit de 7% para 84% reestruturando prompts, cortando o gasto total com LLMs em 59 a 70% enquanto servia 9,8 bilhões de tokens do cache. Esse único exercício de engenharia recuperou mais orçamento do que a maioria das rodadas de demissão atribuídas à IA economiza.

2. Roteamento para o modelo certo

As tabelas de preços dos próprios provedores mostram modelos flagship custando cinco vezes mais por token que seus irmãos menores — mas muitas cargas de produção enviam classificação rotineira e sumarização para o tier mais caro por padrão. Processamento em batch adiciona mais 50% de desconto para tudo que não precisa de resposta em tempo real.

3. RAG e compressão de prompts

Geração aumentada por recuperação (RAG) ataca o problema de outro ângulo, enviando ao modelo apenas a fatia relevante da base de conhecimento, não o documento inteiro. Compressão de prompts remove exemplos redundantes que inflam cada chamada. Modelos de peso aberto reduzem custos ainda mais, lidando com cargas rotineiras a uma fração dos preços de APIs de frontier — para times dispostos a gerenciar a infraestrutura.

4. Disciplina de gastos

O teto de US$ 1.500 por mês por engenheiro que a Uber impôs depois do estouro de abril é evidência inicial de que disciplina de gastos chega, mais cedo ou mais tarde. As empresas que estão saindo na frente são as que escolhem a disciplina antes que o orçamento as force.

Para onde a economia deve ir: de volta para as pessoas

Otimizar a conta de tokens só importa se a economia for para algo produtivo — e a evidência mais forte aponta para pessoas. A pesquisa de Poitevin descobriu que as organizações que melhoraram o ROI foram as que usaram IA para amplificar sua força de trabalho, não substituí-la.

A Klarna rodou o experimento controlado em nome de todo mundo: substituiu ~700 posições de atendimento por um assistente com OpenAI antes que a satisfação dos clientes caísse. O CEO Sebastian Siemiatkowski disse à Bloomberg o que poucos executivos admitem em voz alta: “O resultado foi qualidade inferior, e isso não é sustentável.”

A fintech agora opera um modelo híbrido: IA absorve volume rotineiro enquanto humanos recontratados lidam com tudo que exige julgamento. O Gartner espera que o padrão se espalhe, prevendo que até 2027 metade das empresas que cortaram equipes de atendimento para IA as recontratarão.

O que isso significa para o mercado brasileiro

Para empresas brasileiras adotando IA, a lição é clara: não repitam o erro de tratar tokens como custo fixo e pessoas como variável de ajuste. O ecossistema brasileiro de tecnologia tem uma vantagem estrutural — times menores e mais enxutos, onde cada profissional carrega conhecimento institucional mais concentrado. Cortar essas pessoas para financiar tokens é uma troca particularmente perdedora no nosso contexto.

As técnicas de otimização descritas aqui — prompt caching, roteamento de modelos, batch processing, RAG — são acessíveis a qualquer empresa, não apenas aos hyperscalers. E todas as principais APIs (OpenAI, Anthropic, Google) oferecem esses recursos com documentação em inglês, mas aplicáveis por qualquer time técnico brasileiro.

A melhor métrica de sucesso não é “quantos tokens economizamos”, mas “quantas pessoas conseguimos manter produtivas com o mesmo orçamento”.