A DeepSeek acaba de liberar o DSpark, um novo framework de decodificação especulativa que acelera a geração por usuário entre 60% e 85% em relação ao MTP-1, o sistema anterior de token único. O código-fonte, chamado DeepSpec, foi publicado sob licença MIT e já está disponível no GitHub.
Como funciona a decodificação especulativa
A ideia central é dividir a geração em duas etapas. Um modelo pequeno, chamado drafter, propõe um bloco de tokens de uma vez. O modelo completo então verifica esse bloco em uma única passada. Como a amostragem por rejeição preserva exatamente a distribuição do modelo alvo, não há perda de qualidade — apenas ganho de velocidade.
A latência por token segue uma equação simples do paper: L = (Tdraft + Tverify) / τ, onde τ é o número de tokens aceitos por ciclo. O ganho vem de três alavancas: acelerar o drafting, aumentar a taxa de aceitação ou reduzir o custo da verificação. O DSpark aciona as três simultaneamente.
A arquitetura em dois estágios
Os drafters anteriores forçavam uma escolha difícil. Drafters autorregressivos como Eagle3 condicionam cada token aos anteriores, o que melhora a aceitação mas encarece o custo conforme o bloco cresce. Drafters paralelos como DFlash geram o bloco inteiro de uma vez — é barato, mas cada posição ignora as vizinhas, causando o que os pesquisadores chamam de “colisão multimodal” e queda rápida de aceitação nos tokens finais.
O DSpark resolve isso com dois estágios. Primeiro, um backbone paralelo pesado (DFlash) produz logits base para todas as posições. Depois, uma cabeça sequencial leve adiciona um viés dependente do prefixo antes de amostrar cada token. A cabeça padrão é Markoviana: olha apenas o token imediatamente anterior, com uma fatoração de baixo rank (rank 256) que a mantém barata mesmo com vocabulários grandes.
O resultado aparece posição por posição: o DSpark herda a alta precisão do primeiro token do backbone paralelo, e a cabeça sequencial sustenta a aceitação nos tokens seguintes do bloco.
Confiança e agendamento inteligente
Mais tokens nem sempre significam mais velocidade. Verificar tokens que serão rejeitados desperdiça capacidade de batch sob carga pesada. O DSpark resolve isso com dois mecanismos adicionais.
Uma cabeça de confiança produz uma pontuação para cada posição, estimando a chance de o token sobreviver à verificação. Como redes neurais tendem ao excesso de confiança, a equipe aplica Sequential Temperature Scaling, uma calibração pós-treino que reduz o erro de calibração de 3–8% para cerca de 1%.
Um agendador ciente de hardware ajusta o comprimento de verificação por requisição usando uma curva de throughput medida na inicialização. Com GPUs ociosas, verifica mais tokens. Com GPUs ocupadas, verifica menos — sempre mantendo a política livre de perdas.
Resultados em produção
Nos testes offline com Qwen3 (4B, 8B, 14B) e Gemma4-12B, o DSpark superou tanto o Eagle3 quanto o DFlash em comprimento aceito em todos os domínios: matemática, código e chat. Contra o Eagle3, o ganho médio foi de 26–31%. Contra o DFlash, de 16–18%.
Os números de produção são ainda mais expressivos. Sob tráfego real no DeepSeek-V4-Flash e V4-Pro, o DSpark entrega aceleração de 60–85% no Flash e 57–78% no Pro em relação ao MTP-1. A configuração enviada é DSpark-5: bloco de cinco tokens com a cabeça Markoviana.
Na geração de código, onde a aceitação é naturalmente alta, o agendador pode verificar prefixos longos com pouco desperdício — agentes de coding transmitem resultados mais rápido. No chat aberto, um sweep de limiar de confiança elevou a aceitação de 45,7% para 95,7%. Em raciocínio matemático, subiu de 76,9% para 92,5%.
DeepSpec: código aberto e pronto para uso
O repositório DeepSpec oferece três etapas: preparação de dados, treinamento e avaliação em nove benchmarks. Os checkpoints de produção se acoplam diretamente aos pesos existentes do V4, sem necessidade de retreinar o modelo alvo. O cache do modelo alvo pode ser grande (cerca de 38 TB para Qwen3-4B), mas a configuração padrão assume um nó com 8 GPUs — redutível via CUDA_VISIBLE_DEVICES.
O DSpark representa um avanço significativo na eficiência de inferência de modelos grandes. Para quem opera LLMs em produção com alta concorrência, a combinação de drafting paralelo com cabeça sequencial, calibração de confiança e agendamento ciente de hardware oferece um caminho concreto para reduzir latência sem sacrificar qualidade.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
