GPUs ‘aposentadas’ de data centers servem LLaMA-70B por fração do custo — com alerta de carbono

A indústria de IA vive um paradoxo curioso: enquanto data centers trocam aceleradores a cada geração, GPUs ainda funcionais vão parar no mercado secundário por valores muito abaixo do original. Um novo estudo publicado no arXiv investiga se esses chips “aposentados” têm uma segunda vida útil — e a resposta é um sim com ressalvas importantes.

O que os pesquisadores fizeram

O artigo DumpsterCluster descreve a construção, do zero, de um cluster com 128 GPUs V100 de segunda mão, operado durante um ano inteiro usando apenas componentes usados. O nome remete a “mergulho em caçambas”, mas a engenharia é séria: com otimizações de paralelismo em pipeline, o cluster atingiu throughput competitivo para servir o modelo LLaMA-70B, um dos LLMs abertos mais usados do mercado.

A conta econômica

O custo total do DumpsterCluster foi de aproximadamente US$ 22 mil. Em comparação, um sistema com 8 GPUs B200, hardware de geração atual, sai por cerca de US$ 600 mil. É uma diferença de ordem de grandeza — o tipo de economia que torna a inferência local de modelos grandes acessível a universidades, pequenas empresas e laboratórios com orçamento limitado.

O alerta que ninguém deve ignorar

O estudo também revela o lado menos glamoroso da história. GPUs antigas consomem muito mais energia por token processado. Sob a intensidade média de carbono da rede elétrica, sistemas de segunda mão podem gerar cerca de 4 vezes mais emissões por token em modelos de 8 bilhões de parâmetros — e mais de 40 vezes em modelos de 70 bilhões, como o LLaMA-70B.

Ou seja: a “pós-vida” de GPUs não é universalmente sustentável. A viabilidade do custo total de propriedade depende de eletricidade barata, e o impacto ambiental depende diretamente da fonte de energia usada.

O que isso significa para o Brasil

Para o público brasileiro, a conclusão é estratégica. O país tem uma das matrizes elétricas mais limpas do mundo, com forte participação hidrelétrica — exatamente o cenário que o estudo aponta como condição para a reutilização ser vantajosa. Reaproveitar GPUs usadas, acoplado a energia de baixo carbono, pode ser um caminho real para expandir a capacidade local de IA com custo acessível e responsabilidade ambiental.

A lição central do artigo: reutilizar hardware é uma alavanca de democratização, mas só faz sentido ambiental se vier acompanhada de energia limpa.