Pesquisadores da ByteDance Seed e da Tsinghua University (AIR) apresentaram o CUDA Agent, um sistema de aprendizado por reforço “agente” que treina um modelo de linguagem a escrever kernels de GPU capazes de superar o compilador. O alvo é um problema específico e persistente: os modelos de fronteira já geram código CUDA correto — o que eles não fazem é gerar código rápido.
Do código correto ao código veloz
O modelo-base do projeto, o Seed1.6, acerta 74% das tarefas do benchmark KernelBench, mas só supera o torch.compile em 27,2% delas — com aceleração média geométrica de 0,69x, ou seja, kernels que, na média, são mais lentos que o código gerado automaticamente pelo compilador.
O CUDA Agent muda essa equação ao colocar o modelo dentro de um ambiente real de desenvolvimento CUDA, com ferramentas de profiling, checagem de corretude e uma sandbox com permissões travadas. O treinamento usa PPO por 150 passos, com janela de contexto de 131.072 tokens.
Resultados: 2,11x de aceleração
O resultado é uma taxa de acerto de 98,8% e um índice de 96,8% de kernels mais rápidos que o torch.compile nas 250 tarefas do benchmark, com aceleração média geométrica de 2,11x. No nível mais difícil do teste (Level-3), o sistema fica cerca de 40 pontos à frente de modelos como Claude Opus 4.5 e Gemini 3 Pro.
O que é público e o que não é
O agente treinado não foi liberado: ele roda sobre o Seed1.6, um modelo MoE proprietário com 23 bilhões de parâmetros ativos (230 bilhões no total), e o artigo não publica os pesos. O que está aberto para a comunidade é o dataset CUDA-Agent-Ops-6K (6.000 amostras), a especificação SKILL.md e as receitas de recompensa e de warm-up.
A replicação completa exige infraestrutura pesada — só a sandbox de profiling usou 128 GPUs NVIDIA H20 —, o que a restringe a laboratórios de fronteira, clouds de GPU e grandes times de infraestrutura. Equipes menores ainda podem adotar as partes abertas (dataset, função de recompensa, restrições anti-hackeamento) sobre um modelo-base aberto.
Blindagem contra atalhos
Para evitar que o modelo “trapaceie” a recompensa, o sistema aplica cinco contramedidas: scripts de verificação e profiling com permissões travadas, bloqueio de fallbacks do PyTorch, checagem com cinco entradas aleatórias, profiling com sincronização e warm-up, e ausência de ferramenta de busca na web. A recompensa é discreta — valores de -1, 1, 2 ou 3 — e não uma razão bruta de velocidade.
Por que isso importa
Kernels de GPU são o gargalo silencioso de praticamente tudo o que roda em IA: inferência de modelos, nuvens de GPU, direção autônoma, trading quantitativo, imagem médica e sistemas de recomendação. Um método que faz a IA otimizar seus próprios kernels — em vez de depender de engenheiros humanos e de compiladores — toca diretamente no custo por token e na eficiência de toda a cadeia de inferência.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
