As 4 Sobretaxas Ocultas na Sua Conta de GPU na Nuvem

O preço real de uma GPU na nuvem: muito além do valor por hora

Quem já provisionou GPUs na nuvem sabe que o custo por hora anunciado é apenas a ponta do iceberg. Um artigo detalhado da DigitalOcean expõe quatro sobretaxas ocultas que podem multiplicar sua conta de infraestrutura de IA sem que você perceba.

O artigo usa como exemplo uma API de inferência em tempo real para um modelo de 70 bilhões de parâmetros rodando em quatro H100s — um cenário cada vez mais comum em empresas que servem LLMs.

Sobretaxa 1: Egress e tráfego entre zonas

A taxa de saída de dados (egress) é a mais conhecida, mas não é a única. Quando sua aplicação se comunica entre diferentes zonas de disponibilidade (cross-AZ) ou passa por NAT gateways, cada gigabyte transferido adiciona custos que não aparecem na linha do GPU/hora. Para APIs de inferência que recebem e respondem grandes volumes de dados, essa taxa pode se tornar o maior item da fatura.

Sobretaxa 2: Tempo ocioso — pagando por GPUs paradas

GPUs são recursos caros que ficam ociosos entre requisições, durante deploys, ou simplesmente fora do horário de pico. O modelo de instâncias dedicadas cobra 24 horas por dia, mesmo quando o uso real é de 8 a 12 horas. É como pagar aluguel de um carro esportivo que fica na garagem metade do tempo.

Sobretaxa 3: O vizinho barulhento (noisy neighbor)

Em ambientes multi-tenant, outras VMs na mesma máquina física podem consumir recursos de rede, memória e cache, degradando o desempenho da sua GPU. Essa “taxa de vizinho barulhento” nunca aparece discriminada na fatura, mas se manifesta como latência maior e throughput reduzido.

Sobretaxa 4: Cold starts e scale-to-zero

Para economizar, muitos times configuram scale-to-zero: desligar instâncias quando não há tráfego. Mas cada cold start pode levar minutos — durante os quais o modelo precisa ser carregado na memória da GPU. O resultado é uma experiência ruim para o usuário e, ironicamente, o mesmo custo de tempo ocioso disfarçado.

A solução proposta

A DigitalOcean argumenta que o caminho para reduzir essas sobretaxas é usar silício dedicado com capacidade pré-aquecida (warm), tráfego privado entre serviços, e clusters single-tenant que eliminam o problema do vizinho barulhento. A conclusão é direta: o menor custo por GPU/hora nem sempre resulta na menor conta total.