Meta lança Muse Glimmer: modelo aberto de 30B roda em uma GPU de consumo

O que é o Muse Glimmer

A Meta acaba de lançar o Muse Glimmer, um modelo multimodal de 30 bilhões de parâmetros destilado do Muse Spark — o modelo que a empresa posiciona como sua aposta para superinteligência. O Glimmer é otimizado para agentes de IA locais que operam continuamente, com foco em latência baixa e execução offline.

O diferencial mais chamativo? Um modelo de 30B normalmente exigiria mais de 55 GB de memória em precisão total. A Meta comprimiu os pesos para aproximadamente 4 bits usando quantização K-Quant e adicionou decodificação especulativa em bloco — o suficiente para rodar em uma única GPU de consumo (24 GB) ou em um Mac com chip M4/M5 Max, sem nenhuma chamada de rede.

Arquitetura e treinamento

O Muse Glimmer é um transformer causal denso com um encoder de percepção dedicado. A arquitetura usa grouped-query attention com 32 cabeças de query e 2 cabeças KV. A atenção alterna entre camadas locais (janela deslizante de 2.048 tokens) e globais, com RoPE aplicado apenas às camadas locais (theta 500.000).

O lado visual usa um encoder ViT-G/14 de aproximadamente 1,8B de parâmetros, aceitando até 4.096 tokens visuais por imagem. O contexto suporta 131.072+ tokens, com vocabulário de 202.048 tokens e corte de conhecimento em 4 de janeiro de 2026. Entrada: texto e imagem. Saída: apenas texto — sem suporte a áudio, e vídeo é processado como frames individuais.

O treinamento foi em três fases: pré-treinamento com destilação logit das saídas do Muse Spark; mid-training com dados de agentes em contexto longo e traces de raciocínio mais ricos; e pós-treinamento combinando fine-tuning supervisionado, destilação on-policy e aprendizado por reforço em domínios gerais, de código, raciocínio e agênticos.

O segredo da velocidade: DFlash

O grande truque para a latência está no DFlash, um “drafter” de difusão em bloco que prevê 16 tokens em uma única passada. O modelo principal verifica o bloco em paralelo. O drafter tem 5 camadas, atenção de janela deslizante em 2.048 e 32 cabeças query / 8 KV.

Os números de throughput no build K-Quant-17GB (batch size 1, decodificação greedy):

Benchmarks: onde brilha e onde perde

A Meta comparou o Glimmer contra o Gemma4-31B e o Qwen3.6-27B em modo de pensamento. Os resultados mostram um padrão claro: domínio em orquestração agêntica, atrás em uso de computador.

Em segurança, o ataque Siren AgentDojo teve taxa de sucesso de 28,4% com utilidade de 94,2%. A Meta afirma que o modelo não atende à definição de IA de Fronteira em seu Advanced AI Scaling Framework, classificando riscos químico/biológico, cibernético e de perda de controle como moderados ou inferiores.

Por que isso importa

O Muse Glimmer representa uma mudança concreta no paradigma de IA agêntica. Em vez de depender de GPUs de data center e latência de rede, ele foi projetado para rodar inteiramente no dispositivo do usuário — em uma única GPU de consumo.

Os cenários de uso vão de agentes de desktop que leem screenshots e executam ações, a agentes de código com chamada de função baseada em schema, passando por compreensão de documentos e gráficos, geração de dados sintéticos e avaliação LLM-as-a-judge. A Meta sugere que setores como saúde, jurídico, serviços financeiros e defesa — onde residência de dados, operação offline ou latência descartam chamadas à nuvem — são os principais alvos.

O modelo está disponível sob licença Apache 2.0, com pesos BF16, quants GGUF, builds ExecuTorch e o drafter DFlash no Hugging Face. Self-hosting é o caminho desde o dia um.