StepFun lança Step 5 Preview: MoE de 600B de parâmetros com contexto de 1 milhão de tokens

A StepFun lançou o Step 5 Preview, seu novo modelo-âncora para trabalho agêntico. É um MoE (Mixture-of-Experts) esparso com 600 bilhões de parâmetros no total, dos quais 27 bilhões ficam ativos por token — cerca de 4,5% dos pesos a cada token — e uma janela de contexto de 1 milhão de tokens, voltada para tarefas de longo horizonte em engenharia de software, trabalho de conhecimento profissional e finanças.

O argumento central do lançamento é custo. A empresa afirma que o modelo entrega inteligência comparável à da concorrência a um custo por tarefa substancialmente menor — a narrativa de “fronteira de Pareto” que estampa o título do anúncio.

O que ele é e como foi construído

O Step 5 Preview está disponível como API hospedada e na plataforma da própria StepFun. Quem quiser fazer self-hosting terá de esperar pelos pesos abertos, prometidos para 15 de outubro de 2026. A conta é simples: 600 bilhões de parâmetros exigem cerca de 1,2 TB de memória em BF16, antes mesmo do cache KV — ou seja, planeje servidor multi-GPU assim que os pesos forem liberados.

Em vez de alargar a rede, a StepFun empilhou 92 camadas de Transformer em um layout estreito e profundo. A equipe de pesquisa argumenta que pilhas mais profundas criam caminhos mais longos para raciocínio multi-hop implícito — algo que pesa durante o prefill longo, quando o agente pesquisa, executa código e lê resultados de ferramentas.

O treinamento se apoia em aprendizado por reforço on-policy de longo horizonte, com alinhamento bit a bit entre treino e inferência no roteamento do MoE. Entre as técnicas listadas estão decodificação especulativa MTP-3, MoE em FP8 e offload de cache KV. A StepFun reporta um ganho de mais de 3x na velocidade de ponta a ponta para RL de longo horizonte.

Benchmarks: competitivo, mas atrás dos líderes

Em codificação, o Step 5 Preview marca 67,7 no DeepSWE v1.1, 49,0 no StepCodeBench e 80,5 no ProgramBench — com GPT-6 Astra e Claude Opus 5 à frente nos três. Vale registrar que o StepCodeBench é um benchmark da própria StepFun.

A verificação independente veio da Artificial Analysis, que atribuiu ao Step 5 Preview nota 44 no Intelligence Index — contra uma mediana de 24 para modelos de raciocínio na mesma faixa de preço. A medição registrou 99,8 tokens por segundo de saída na API da StepFun.

Agentes de 24 horas

A empresa também rodou dois experimentos de agente com 24 horas de duração cada. No primeiro, o modelo ajustou um kernel de H100 até 508 TFLOPS, contra 493 do Claude Opus 5. No segundo, elevou o Qwen3-30B-A3B no AIME24 de 53,3% para 60% por meio de pós-treinamento automatizado.

Preço agressivo, com uma ressalva

Há uma ressalva importante: na rodada do índice, o modelo gerou 160 milhões de tokens de saída, contra uma mediana de 92 milhões. O raciocínio verboso consome parte da economia por token — o custo por tarefa pode não cair na mesma proporção do preço de tabela.