Estudo questiona ‘next-chunk reasoning’: SFT misto vence métodos 60 vezes mais caros

A pergunta do estudo

Um preprint do arXiv, de 24 de agosto de 2026, colocou uma pergunta estreita e prática: o next-chunk reasoning aproveita melhor dados sem cadeia de raciocínio exposta (no-CoT) do que o fine-tuning supervisionado (SFT), quando o modelo-base, o corpus e o orçamento de RLVR são mantidos iguais?

O experimento comparou cinco rotas de treino — Reasoning SFT, Sequential SFT, Mixed SFT, NTR (next-token reasoning) e NSR (next-sentence reasoning) — todas seguidas do mesmo estágio de reinforcement learning com recompensas verificáveis (RLVR).

O resultado surpreendente

Antes do RLVR, o Mixed SFT tinha a pior precisão (27,5). Depois, saltou para a melhor (61,1) — um ganho de 33,7 pontos, contra melhorias de 3,3 a 10,3 pontos nas demais rotas. No pós-RLVR, o Mixed SFT fez média de 67,4 nos seis benchmarks in-domain, contra 64,2 do NTR e 63,6 do NSR.

A liderança se repetiu nos três testes out-of-domain, incluindo HLE, GPQA-Diamond e MMLU-Pro.

O custo que conta

O dado mais contundente é o de computação: NTR e NSR consumiram mais de 60 vezes as horas de GPU do SFT sobre os mesmos dados no-CoT — e ainda assim ficaram atrás. Os autores observaram que os métodos next-chunk convergiam para completamentos repetitivos e de molde, sugerindo que muitos alvos “difíceis” eram localmente previsíveis sem reconstrução explícita de raciocínio.

Para times que treinam modelos de raciocínio com orçamento limitado, o recado é valioso: às vezes a estratégia mais simples e barata é a que mais sobrevive ao estágio final de RL.