LFM2.5-Encoders: inferência de contexto longo em CPU com eficiência

LFM2.5-Encoders: inferência de contexto longo em CPU com eficiência

A Liquid AI lançou no Hugging Face os LFM2.5-Encoders, uma nova família de modelos de encoding otimizados para processamento de contextos longos em CPU. A proposta é ambiciosa: oferecer qualidade comparável a modelos baseados em transformers para tarefas de embedding e retrieval, mas com uma fração dos recursos computacionais.

O lançamento consolida a aposta da Liquid AI em arquiteturas alternativas aos transformers tradicionais. A empresa, fundada por pesquisadores do MIT, desenvolve modelos baseados em liquid neural networks — redes neurais com dinâmica adaptativa inspirada em sistemas biológicos.

O que são os LFM2.5-Encoders

Diferente de modelos de linguagem generativos, encoders transformam texto em representações vetoriais (embeddings) usadas para busca semântica, classificação, clustering e RAG (Retrieval-Augmented Generation). Os LFM2.5-Encoders se destacam em três aspectos:

• Contexto longo: suportam até 32K tokens de entrada, permitindo indexar documentos completos sem chunking
• Eficiência em CPU: otimizados para rodar sem GPU, com latência competitiva mesmo em hardware modesto
• Código aberto: pesos disponíveis no Hugging Face sob licença Apache 2.0, com integração pronta para sentence-transformers

Performance e benchmarks

Nos benchmarks do MTEB (Massive Text Embedding Benchmark), os LFM2.5-Encoders competem diretamente com modelos estabelecidos como BGE-M3 e E5-Mistral, oferecendo performance similar com menor consumo de memória e sem necessidade de GPU — um diferencial importante para deploy em edge devices e servidores econômicos.

Por que isso importa

A capacidade de rodar embeddings de alta qualidade em CPU democratiza aplicações de RAG e busca semântica para empresas que não querem ou não podem arcar com infraestrutura de GPU. Para o ecossistema open-source brasileiro, onde acesso a GPUs de alto desempenho ainda é restrito por custo, modelos como os LFM2.5-Encoders representam uma alternativa viável para colocar sistemas de IA em produção.

O modelo está disponível em duas variantes no Hugging Face: LFM2.5-Encoder-Base e LFM2.5-Encoder-Large, e pode ser usado com a biblioteca sentence-transformers com apenas três linhas de código.