A DeepSeek acaba de lançar o DeepSeek-V4.1-Flash — e, embora os números de benchmark impressionem, não são eles a parte mais interessante do anúncio. É a arquitetura. O novo modelo aberto ataca de frente um problema que está ficando cada vez mais caro à medida que a IA caminha para agentes de longa duração: o custo de processar prompts longos, manter caches de contexto gigantes e preservar o estado do agente entre interações.
Um modelo pensado para agentes
O DeepSeek-V4.1-Flash é um modelo Mixture-of-Experts (MoE) de 552 bilhões de parâmetros, mas apenas 8 bilhões ficam ativos por token durante o prefill (leitura do prompt) e 16 bilhões durante a decodificação (geração da resposta). Ele suporta uma janela de contexto de 1 milhão de tokens, aceita texto e imagens, e reduz o cache KV global para apenas 890 bytes por token.
Esses três números — 8B, 16B e 890 bytes — revelam o que a DeepSeek está otimizando de verdade: processamento de entrada mais barato, mais computação na hora de gerar e uma pegada de memória drasticamente menor para contextos longos.
A mudança de arquitetura: Causal Encoder-Decoder
A inferência de LLMs tem duas fases muito diferentes. No prefill, o modelo lê e processa o prompt; no decode, gera a resposta token a token. Essa distinção importa porque os agentes modernos são extremamente intensivos em entrada — um agente de programação pode ler centenas de milhares de tokens antes de produzir alguns milhares de tokens de saída útil.
O V4.1-Flash introduz uma arquitetura Causal Encoder-Decoder (CED) com um encoder causal de 20 camadas seguido de um decoder de 20 camadas. Em vez de cada camada do decoder gerar sua própria representação KV completa durante o prefill, o decoder obtém a informação KV global da representação final do encoder. O resultado é um perfil de computação assimétrico: o modelo gasta menos energia ingerindo informação e mais quando precisa raciocinar e responder.
Por que o cache KV importa
Durante a geração, o modelo armazena representações dos tokens anteriores para não recomputar o contexto inteiro. Quando as janelas de contexto chegam a 1 milhão de tokens, esse cache vira um problema de infraestrutura. O V4.1-Flash usa Compressed Sparse Attention 2 (CSA2), que permite que camadas compartilhem trabalho anterior em vez de armazenar e buscar informações redundantes, além de um indexador esparso hierárquico que estreita o conjunto de tokens relevantes antes de cada camada pesquisar. Combinado com cache KV em FP4, isso leva o cache global a 890 bytes por token — cerca de um quarto da HBM exigida pelo V4-Flash.
Há ainda SWA Bounded Replay (descarta estados e reconstrói uma janela recente quando necessário), um componente de memória Engram de 196B parâmetros acessado de forma esparsa, e Single-Pass mHC, que reduz o tráfego de memória em cerca de 50%. O DSpark acelera a geração usando tokens de rascunho verificados em lote.
O que isso significa na prática
Segundo os resultados reportados, o modelo alcança 74,2 no DeepSWE, 88,1 no CyberGym e 54,8 no AutomationBench — desempenho competitivo em benchmarks de agentes, uso de terminal, automação e cibersegurança. E o modelo foi liberado sob licença MIT, com código de inferência de referência e detalhes de implementação.
Vale a ressalva do próprio autor da análise: o V4.1-Flash não é o melhor modelo em inteligência bruta nem o mais barato — modelos como o GLM-5.3-Flash oferecem desempenho geral mais forte por um preço menor. Onde o DeepSeek se destaca é em velocidade de saída. E, para o ecossistema open source, o valor maior está na pesquisa por trás da arquitetura: prefill e decode assimétricos, reúso de KV entre camadas, atenção esparsa e cache em FP4 são ideias que devem influenciar os próximos modelos e motores de inferência abertos.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
