A Liquid AI acaba de lançar o LFM2.5-230M, seu menor modelo até agora, com apenas 230 milhões de parâmetros. A novidade é voltada para um uso bem específico: execução de tarefas agentivas diretamente em celulares, robôs e dispositivos de automação — sem depender da nuvem. Os checkpoints base e instruction-tuned estão disponíveis como pesos abertos no Hugging Face, sob a licença lfm1.0.
Desempenho e arquitetura
O LFM2.5-230M atinge 213 tokens por segundo em um Galaxy S25 Ultra e 42 tokens por segundo em um Raspberry Pi 5 — números impressionantes para um modelo rodando localmente. A arquitetura é híbrida: das 14 camadas, oito são blocos de convolução LIV com duplo gating e seis usam atenção com consulta agrupada (GQA), otimizada para inferência rápida em CPU.
Com contexto de 32.768 tokens, vocabulário de 65.536 tokens e suporte a dez idiomas (incluindo inglês, chinês, árabe e japonês), o modelo foi pré-treinado em 19 trilhões de tokens e passa por três estágios de pós-treinamento: fine-tuning supervisionado com destilação do modelo maior LFM2.5-350M, DPO (Direct Preference Optimization) e aprendizado por reforço multi-domínio.
Comparação com modelos maiores
Nos testes de seguimento de instruções, o LFM2.5-230M supera modelos com o dobro ou triplo de parâmetros: atinge 71,71 pontos no IFEval contra 59,94 do Qwen3.5-0.8B e 63,49 do Gemma 3 1B. No CaseReportBench, teste de extração de dados clínicos, também lidera com 22,51 pontos.
Porém, a Liquid AI é transparente sobre as limitações: o modelo não é indicado para raciocínio matemático avançado, geração de código ou escrita criativa. No MMLU-Pro, fica atrás do Qwen3.5-0.8B (20,25 vs 37,42), e no benchmark de uso de ferramentas τ²-Bench Telecom atinge apenas 5,26 pontos.
Tool use e casos práticos
O foco do LFM2.5-230M está em dois cenários principais. O primeiro é extração de dados em larga escala: imagine processar 100 mil laudos clínicos em CPUs comuns, com footprint de apenas 293–375 MB em quantização de 4 bits, sem custo de API por token. O segundo é agentes leves em dispositivos, como um hub de automação residencial que transforma comandos de voz em chamadas de função, ou um assistente de celular que roteia solicitações para a ferramenta certa.
O modelo já foi implantado em um robô humanoide Unitree G1, rodando integralmente no NVIDIA Jetson Orin embarcado. Nele, o LFM2.5 atua como camada de seleção de habilidades, convertendo instruções em linguagem natural em sequências de chamadas de ferramenta do framework NVIDIA SONIC.
O function calling funciona em quatro etapas: as ferramentas são definidas como JSON no system prompt, o modelo escreve uma chamada no estilo Python entre tokens especiais (<|tool_call_start|> e <|tool_call_end|>), o sistema executa a chamada e devolve o resultado, e o modelo gera a resposta final em texto simples.
Suporte multi-engine desde o primeiro dia
O LFM2.5-230M chega com suporte imediato a llama.cpp, MLX (Apple Silicon), vLLM, SGLang e ONNX, cobrindo desde servidores até dispositivos móveis e navegadores. A Liquid AI também publicou receitas de fine-tuning com SFT, DPO e GRPO usando LoRA, via Unsloth e TRL, com notebooks no Google Colab.
Para rodar o modelo, basta usar Transformers 5.0.0 ou superior, com as configurações recomendadas de temperatura 0.1, top_k 50 e repetition_penalty 1.05.
Por que isso importa
O LFM2.5-230M mostra que a corrida por modelos cada vez maiores não é o único caminho. Com arquitetura eficiente e destilação de conhecimento, um modelo de 230M parâmetros consegue competir com alternativas de 800M a 1B em tarefas específicas. Para quem desenvolve aplicações que precisam rodar offline — de automação industrial a assistentes em áreas sem conectividade — isso reduz drasticamente a barreira de entrada.
A limitação a tarefas de extração e tool use, em vez de ser uma fraqueza, é uma escolha de design consciente: em vez de um canivete suíço medíocre, temos uma ferramenta afiada para o que se propõe a fazer.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
