Nos últimos dois anos, a premissa na IA agêntica era simples: quanto maior o modelo, melhor o agente. Mais parâmetros, janelas de contexto maiores, raciocínio mais afiado. Mas a NVIDIA passou 2025 construindo evidências contra essa suposição, e o argumento resultante está remodelando a arquitetura dos agentes em produção em 2026.
A maior parte do que um agente faz no dia a dia não é amplo, criativo ou inovador — é um pequeno número de tarefas especializadas executadas repetitivamente com pouca variação. Um modelo treinado para ser generalista é exagero para trabalhos fundamentalmente estreitos. É aí que entram os small language models (SLMs) — eles deixaram de ser uma nota de rodapé e se tornaram uma decisão arquitetural real no design de agentes.
1. Lidando com o trabalho repetitivo que modelos de fronteira nunca foram feitos para fazer
O caso fundacional vem de um artigo amplamente discutido da NVIDIA Research: “Small Language Models are the Future of Agentic AI”. Os autores argumentam que LLMs são valorizados para conversação geral, mas sistemas agênticos chamam modelos principalmente para tarefas especializadas repetitivas — interpretar um comando, selecionar uma ferramenta ou retornar um resultado em JSON. É um trabalho completamente diferente de manter uma conversa aberta.
A afirmação central é direta: SLMs são suficientemente poderosos, inerentemente mais adequados e necessariamente mais econômicos para muitas invocações em sistemas agênticos. Agentes valorizam confiabilidade acima de criatividade, e um modelo pequeno ajustado para sempre seguir um formato fixo de saída é frequentemente mais confiável para esse trabalho do que um modelo grande de propósito geral.
2. Executando diretamente no dispositivo, sem round trip na nuvem
Uma das mudanças mais práticas que os SLMs desbloquearam é mover o modelo para o hardware onde o agente já está rodando: celular, laptop, equipamento industrial. Uma requisição a um data center leva centenas de milissegundos, enquanto a inferência na borda acontece em dezenas.
O hardware alcançou as expectativas mais rápido do que se previa. O Apple A19 Pro permite rodar modelos de 8 bilhões de parâmetros a mais de 20 tokens por segundo no iPhone 17 Pro. A quantização é parte crucial: um Phi-4-Mini comprimido para 4 bits ocupa ~1,2 GB em vez de 7,6 GB, mantendo mais de 95% do desempenho em benchmarks — tamanho confortável para um celular com 8 GB de RAM. Ferramentas como Ollama para servidor local e a família Phi da Microsoft são pontos de partida comuns.
3. Ajuste fino para especialistas em chamada de ferramentas
Um SLM genérico, direto da caixa, é genuinamente ruim em tool calling: alucina nomes de funções, erra parâmetros e quebra o formato de saída com frequência. A correção não é um modelo maior — é um modelo mais focado. O fine-tuning em um schema específico de ferramenta produz acurácia acima de 90% com custo efetivamente zero por consulta.
4. Orquestração multi-agente com SLMs especializados
Em vez de um único modelo monolítico, arquiteturas modernas de agentes estão adotando múltiplos SLMs cada um especializado em uma função: um para parsing de intenção, outro para raciocínio, outro para geração de resposta. Essa separação permite que cada modelo seja otimizado independentemente, resultando em sistemas mais robustos e fáceis de manter.
5. Custos operacionais drasticamente menores
O argumento econômico é contundente: executar um SLM como Phi-4 ou Llama-3.2-3B para tarefas de agente custa frações de centavo por invocação, comparado a centavos ou dezenas de centavos para modelos de fronteira. Para agentes que fazem dezenas de chamadas por interação do usuário, a diferença se acumula rapidamente. O paper da NVIDIA conclui que SLMs são “o futuro da IA agêntica” — não como substitutos dos modelos grandes, mas como a escolha certa para a maioria das invocações em produção.
Em 2026, a pergunta não é mais se SLMs funcionam para agentes — é quando usar cada tamanho de modelo estrategicamente.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
