Kimi K3: modelo open-weight de 2,8 trilhões de parâmetros aposta em memória, não em computação

Moonshot AI lança Kimi K3: o maior modelo open-weight do mundo aposta em memória, não em computação

No dia 16 de julho de 2026, a chinesa Moonshot AI lançou o Kimi K3, um modelo open-weight de 2,8 trilhões de parâmetros — o maior já disponibilizado publicamente com pesos abertos. O número impressiona, mas o que realmente define o K3 não é o tamanho: é a arquitetura que troca computação por memória em praticamente todas as camadas do design.

Modelos deste porte costumam ser agrupados em faixas. Os 2,8 trilhões do K3 o colocam na chamada classe 3T, uma categoria que nenhum modelo aberto havia alcançado antes. O concorrente mais próximo, o DeepSeek V4 Pro, tem 1,6 trilhão de parâmetros — uma diferença substancial.

MoE extremo: 896 especialistas, só 16 ativos por vez

A principal técnica usada é o mixture-of-experts (MoE). O K3 divide-se em 896 seções especializadas, mas ativa apenas 16 delas por token — cerca de 1,8% do total. O custo computacional por palavra despenca, mas a conta de memória permanece: todos os 2,8 trilhões de parâmetros precisam estar carregados e prontos, porque qualquer especialista pode ser o próximo a ser chamado.

Para atacar esse problema, a Moonshot foi direto na precisão: treinou o K3 para operar com 4 bits por parâmetro em vez dos 16 bits convencionais. A técnica, chamada de quantisation-aware training, foi aplicada desde a etapa de fine-tuning. O resultado: aproximadamente 1,4 TB em disco, contra os 5,6 TB que o modelo ocuparia em precisão total.

A empresa diz ter escolhido esse caminho “para ampla compatibilidade de hardware” — uma frase que merece atenção, já que soa como uma proteção contra a dependência de GPUs da Nvidia, sujeitas a controles de exportação dos EUA.

Kimi Delta Attention: resolvendo o gargalo de contexto longo

A segunda inovação, Kimi Delta Attention, ataca um custo de memória diferente. Quando um modelo processa documentos muito longos, acumula um registro contínuo de tudo que já leu. No limite de 1 milhão de tokens anunciado pelo K3 — equivalente a milhares de páginas — esse registro se torna o maior item na memória, superando o próprio modelo.

A Moonshot contribuiu com código de cache para o projeto open-source vLLM e afirma que essa combinação permite precificar o K3 de forma competitiva apesar do tamanho. A recomendação é rodar o modelo em 64 ou mais aceleradores conectados como um único pool.

Essa é a mesma abordagem por trás dos sistemas CloudMatrix da Huawei, e aponta para a verdadeira solução de contorno: memória pode ser agregada entre muitos chips individualmente modestos. Computação de treinamento não pode.

O contexto geopolítico: por que memória importa mais que computação

O texto técnico da Moonshot não diz onde estão os H200 da Nvidia usados nos testes — nem identifica o “GPGPU de fornecedor alternativo” mencionado. A Câmara dos EUA aprovou em janeiro um projeto para fechar a brecha do aluguel remoto de nuvem que permitia a empresas chinesas acessar aceleradores restritos.

O ponto central é que memória, não processamento, é onde a indústria de chips da China está mais atrasada. Em agosto de 2025, Pequim pediu alívio nas restrições de memória de alta largura de banda (HBM) — não em ferramentas de litografia ou acesso à TSMC. A produção doméstica de HBM está projetada em cerca de 2 milhões de stacks este ano, suficiente para 250-300 mil chips Huawei Ascend 910C, enquanto a SMIC tem capacidade para mais de 1 milhão.

O que empresas conseguem implantar de fato

Os pesos do K3 chegam em 27 de julho. Qualquer organização com hardware suficiente poderá baixar, modificar e rodar o modelo internamente. A questão é quantas conseguem. Com 1,4 TB só de pesos e recomendação de 64+ aceleradores, trata-se de um compromisso de data center, não de sala de servidores.

Para a maioria das empresas, o resultado prático será alugar capacidade dedicada em vez de possuí-la — o que mantém os dados no país e sob contrato, mas não entrega a independência de infraestrutura que atrai compradores para modelos abertos.

O software também não está maduro. As duas principais inovações arquiteturais do K3 são novas demais para terem suporte nas ferramentas open-source padrão, e a Moonshot afirma estar trabalhando com parceiros de inferência para alinhar detalhes antes do lançamento.

Preços: fora da faixa econômica

O K3 custa US$ 3 por milhão de tokens de entrada (caindo para US$ 0,30 quando o modelo já viu o conteúdo), e US$ 15 por milhão de tokens de saída. Está bem abaixo dos US$ 50 do Claude Fable 5, mas muito acima do GLM-5.2 (US$ 4,40) e do DeepSeek V4 (US$ 0,87). O K3 sai da faixa econômica que seus antecessores ocupavam.

Além disso, o modelo é lançado apenas com esforço máximo de raciocínio, com modos mais leves previstos para depois. Cadeias longas de raciocínio e tentativas repetidas aumentam o custo real rapidamente.

O que foi verificado e o que ainda é alegação

O K3 ficou em primeiro lugar na avaliação de Frontend Code do LMSys Arena com 1.679 pontos, à frente do Fable 5. Esse resultado é real e verificável — mas é um benchmark em um único domínio.

A própria Moonshot é mais contida que as manchetes: afirma que o desempenho geral do K3 ainda fica atrás do Claude Fable 5 e GPT 5.6 Sol, e lista três limitações: a qualidade da geração pode se tornar instável se o harness não repassar o histórico de pensamento, o modelo pode tomar decisões inesperadas com intenções ambíguas do usuário, e há uma diferença perceptível de experiência em comparação com Fable 5 e GPT 5.6 Sol.

Analistas do Bank of America, liderados por Alex Liu, resumiram: o K3 mostra que o pré-treinamento em larga escala combinado com trabalho arquitetural ainda pode gerar ganhos significativos para modelos chineses apesar das restrições de computação.

Modelos open-weight processaram 29% de todos os tokens roteados pelo gateway de produção da Vercel em junho, contra cerca de 9% em abril — respondendo por menos de 4% dos gastos. O dia 27 de julho dirá quanto do K3 pertence a essa coluna.