NVIDIA lança SoL-Pi: loops de auto-pesquisa que cortam até 49% do tráfego de tokens em agentes de código

O problema: agentes de código que consomem contexto demais

Agentes de código já não rodam por minutos — rodam por horas. Cada edição de arquivo, cada teste executado e cada log lido volta para a janela de contexto do modelo, e essa conta cresce rápido. Uma equipe de pesquisadores da NVIDIA, NTU e MIT lançou o SoL-Pi, um conjunto de quatro mecanismos de eficiência para o agente de código open source Pi. O detalhe mais interessante: esses mecanismos não foram desenhados à mão por humanos — uma IA os descobriu rodando loops de auto-pesquisa na camada de harness.

Resultados no EdgeBench

No benchmark EdgeBench, com 51 tarefas, o SoL-Pi reduz o tráfego de tokens registrado entre 44,7% e 49,0% em relação ao Pi original, e corta o custo de API em cerca de 33%. O mais importante: as pontuações continuam próximas às do Pi tanto no GPT-5.6 Sol quanto no Opus 5 — ou seja, a economia não vem às custas da qualidade.

O SoL-Pi está disponível no GitHub sob a NVlabs como uma extensão com licença MIT, rodando sobre uma versão não modificada do Pi. Foi testado com o Pi 0.85.1 e Node.js 22.19 ou mais recente.

Por que atacar o harness?

A maior parte do trabalho de eficiência reduz o custo por token — kernels mais rápidos, quantização ou modelos mais baratos. O SoL-Pi vai por outro caminho: reduz quantos tokens uma tarefa consome. O harness é a camada que cuida de chamadas de ferramentas, contexto, observações e delegação. Ajustar um harness manualmente é lento, e suas partes são acopladas: uma correção em um ponto pode empurrar custo para etapas posteriores.

O problema conhecido dessa abordagem é o overfitting: harnesses “evoluídos” podem se especializar demais nas tarefas de busca e render ganhos marginais em tarefas novas. O SoL-Pi endereça isso com regras de aceitação fixadas antes da busca — o otimizador não pode alterá-las.

Como a busca funcionou

Uma IA de pesquisa observa os traces de execução de um agente separado rodando o Pi base, propõe mudanças no harness e as testa. A busca cobriu:

• 152 direções propostas em 6 famílias: contexto, progresso, ferramentas, delegação, prompt/política e melhoria/avaliação;
• 535 ambientes executáveis — 495 construídos a partir de pares issue/pull request do GitHub e 40 tarefas sintéticas com verificadores;
• Mais de 3.000 rodadas e 60.000+ interações agente-ambiente.

Os 4 mecanismos que sobreviveram

• Action Fusion: o Pi costuma editar um arquivo e depois emitir um comando separado para testar, compilar ou rodar. O Action Fusion une os dois em uma única chamada de ferramenta e devolve os dois resultados em uma observação só, eliminando uma ida e volta ao modelo.
• Online Context Compact: acompanha os passos do plano e estima quantas requisições faltam, comparando a economia projetada de input com o custo de reescrever o cache de prompt antes de invocar a compactação nativa do Pi.
• ObservationPack: saídas de ferramentas acima de 10 KiB são arquivadas localmente e enviadas completas só nas 2 requisições seguintes. Da terceira em diante, o modelo vê um handle estável com tamanho original e um trecho de cabeça e cauda.
• Evidence-Preserving Reducer: logs de build e teste a partir de 4 KiB vão para um modelo mais barato (GPT-5.6 Luna) que escreve um “recibo” compacto. Um verificador determinístico confirma schema, hash, status de saída e citações exatas — com fallback ao log original em três casos.

Por que isso importa agora

À medida que agentes de código se tornam ferramentas de trabalho diário, o custo de contexto deixa de ser um detalhe técnico e vira uma linha de orçamento. Uma redução de 49% no tráfego de tokens, mantendo a qualidade, muda a viabilidade econômica de deixar agentes rodando por horas. E o método — deixar uma IA pesquisar as próprias otimizações do harness — aponta para um padrão em que a eficiência de agentes deixa de ser engenharia manual e passa a ser um problema de busca automatizada.