NVIDIA lança Nemotron 3 Embed e assume a liderança no ranking global de embeddings
Os modelos de embedding são a camada silenciosa que decide quais trechos de informação um agente de IA realmente enxerga. A NVIDIA acaba de lançar o Nemotron 3 Embed, uma coleção aberta de modelos de embedding que já estreou na primeira posição do ranking RTEB (Retrieval Embedding Benchmark), o principal benchmark público de recuperação de informação.
A coleção inclui três checkpoints abertos sob a licença OpenMDW 1.1, cobrindo desde o desempenho máximo até cenários com restrição de hardware. Todos são Transformer encoders treinados com atenção bidirecional, usando average pooling sobre representações token-level e suportando sequências de até 32.768 tokens.
Três checkpoints para três cenários
Nemotron-3-Embed-8B-BF16 é a opção de máxima precisão. Construído sobre o Mistral Ministral-3-8B-Instruct-2512, ele lidera o ranking RTEB com 78,46 pontos (NDCG@10 médio em 16 tarefas públicas), superando todos os concorrentes open source e proprietários.
Nemotron-3-Embed-1B-BF16 carrega o mesmo design em um modelo 8× menor. O feito mais impressionante está aqui: ele ganha 10,4 pontos RTEB sobre o llama-nemotron-embed-vl-1b-v2, a geração anterior. Isso não veio de um treinamento menor — veio de um pipeline de compressão.
Nemotron-3-Embed-1B-NVFP4 é o caminho otimizado para hardware Blackwell da NVIDIA, usando quantização de 4 bits. Ele retém 99,5% da precisão do irmão BF16, entregando o dobro de throughput.
O segredo do modelo de 1B: compressão, não redução
Os resultados impressionantes do modelo de 1B não vêm de um treinamento menor, mas de um pipeline de compressão em duas rodadas. O processo começa com o modelo pai de 3B, que passa por:
- Poda via Neural Architecture Search (NAS): usando o NVIDIA ModelOpt mcore_minitron, o modelo de 3B é podado para 2B. A busca cobre largura oculta, tamanho FFN, cabeças de atenção e profundidade, selecionando o melhor candidato da fronteira de Pareto com um corpus de calibração de 50 mil amostras in-domain.
- Destilação com professor 8B: o modelo de 2B é destilado a partir do professor 8B ajustado, combinando perda de distância cosseno (COS) e erro quadrático médio (MSE) em dados multilíngues.
- Segunda rodada: o mesmo procedimento se repete para produzir o checkpoint final de 1,14B.
O resultado é um modelo 8× menor que o topo de linha, mas com apenas 10,4 pontos RTEB de diferença — uma relação tamanho-desempenho notável para aplicações com restrição de latência ou custo.
O tradeoff NVFP4: 2× mais rápido com 99,5% de precisão
Para deploys em hardware Blackwell, a quantização NVFP4 aplica compressão em pesos e ativações das camadas lineares, seguida de Quantization-Aware Distillation (QAD) para recuperar precisão em entradas longas. A calibração usa 512 amostras do CNN/DailyMail e o treinamento QAD usa 20 mil amostras.
O ganho prático: até 2× mais throughput que BF16, com vetores de embedding dinâmicos que podem ser truncados de 2048 para 1024 ou 512 dimensões (com renormalização).
Por que isso importa para o ecossistema de IA
Modelos de embedding são a espinha dorsal de sistemas RAG, busca semântica, memória de agentes e recuperação de código. Um embedding melhor significa que o agente encontra a informação certa com mais frequência — e alucina menos.
A NVIDIA está oferecendo três camadas de adoção: o modelo topo de linha para quem quer a melhor precisão absoluta, o modelo de 1B para quem precisa de equilíbrio entre custo e qualidade, e o formato NVFP4 para quem opera em hardware Blackwell e quer maximizar throughput.
Para times brasileiros construindo sistemas RAG em produção, a coleção Nemotron 3 Embed sob licença aberta OpenMDW 1.1 representa uma alternativa de ponta aos embeddings proprietários, com a vantagem adicional de poder rodar em infraestrutura própria.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
