LangChain vs. LlamaIndex vs. API Direta: Qual Framework de Orquestração de LLMs Escolher em 2026

Você tem um prompt funcionando. O modelo responde bem. Então chega o próximo requisito: talvez seja memória — o modelo precisa lembrar o que foi dito três mensagens atrás. Talvez seja retrieval — o sistema precisa buscar documentos antes de responder. Três caminhos se abrem: LangChain, LlamaIndex ou uma camada fina sobre o SDK da API.

Escolher errado não quebra o protótipo — quebra o custo de manutenção seis meses depois. Com o mercado de APIs de LLMs saltando de US$ 3,5 bilhões para US$ 8,4 bilhões entre o final de 2024 e meados de 2025, a decisão sobre qual framework usar é financeira, não apenas técnica.

Os três caminhos, em linguagem clara

Antes de comparar trade-offs, é essencial entender que estas três opções não competem na mesma dimensão:

• LangChain é um toolkit de orquestração. Serve para montar pipelines complexas com múltiplos passos, ferramentas, roteamento condicional e agentes que raciocinam antes de agir.
• LlamaIndex é um framework de retrieval. Brilha quando você precisa indexar documentos, construir grafos de conhecimento e recuperar informações com precisão antes de passá-las ao LLM.
• API Direta (OpenAI, Anthropic, etc.) é o caminho minimalista. Você controla cada byte, não paga overhead de framework, mas também não herda nenhuma abstração pronta.

LangChain: A Camada de Orquestração

O ponto forte do LangChain é montar complexidade. Se sua aplicação envolve múltiplos passos, ferramentas, roteamento condicional, memória entre turnos ou agentes que raciocinam, o LangChain oferece uma estrutura madura. O LangGraph, da mesma equipe e estável na v1.0 desde outubro de 2025, é onde o trabalho com agentes realmente acontece. Ele modela workflows como grafos dirigidos: nós são funções Python, arestas são transições condicionais.

Os trade-offs são reais: LangChain adiciona ~10ms de overhead por passo, e LangGraph ~14ms. Para aplicações que fazem chamadas de 1-3 segundos ao LLM, isso é irrelevante. Mas para pipelines de alta frequência, o custo se acumula.

LlamaIndex: A Camada de Retrieval

Se LangChain é o cérebro que orquestra, LlamaIndex é a memória que recupera. Ele foi construído especificamente para ingestion, indexação e consulta de documentos. Suporta dezenas de conectores de dados, estratégias de chunking e modos de consulta — desde busca por similaridade até tree summarize e keyword table.

O LlamaIndex faz sentido quando o coração da sua aplicação é RAG (Retrieval-Augmented Generation) de verdade: bases de conhecimento corporativas, documentação técnica, FAQs legais. Se você só precisa de um cosine similarity com embeddings da OpenAI, a API direta resolve com 20 linhas de código.

API Direta: O Caminho Mínimo

Chamar a API diretamente — OpenAI, Anthropic, ou qualquer provedor compatível — elimina dependências externas. Você controla o prompt, os parâmetros, o parsing e o fluxo. Para aplicações simples, isso é imbatível: zero overhead de framework, debugging direto, e nenhum breaking change de versão.

A desvantagem aparece quando a complexidade cresce. Memória de conversa, function calling com múltiplas ferramentas, streaming com parsing incremental — tudo isso exige código que o LangChain já empacotou e testou.

Comparação Direta

Como decidir em 3 perguntas

1. Sua aplicação tem mais de 3 ferramentas ou fontes de dados? Se sim, LangChain ou LangGraph.
2. O problema central é buscar informações em documentos? Se sim, LlamaIndex.
3. O MVP cabe em 200 linhas de Python? Se sim, API direta — migre para framework quando a complexidade justificar.

Cuidados ao migrar

O LangChain passou por um período turbulento entre v0.1 e v0.3 com múltiplos breaking changes. A v1.0 (outubro de 2025) trouxe estabilidade, mas o histórico importa. Para projetos novos, a API estável resolve. Para quem foi queimado no passado, a API direta ou LlamaIndex podem ser refúgios mais seguros.

O custo financeiro também merece atenção: cada milissegundo de overhead de framework é pago em latência e, em escala, em dinheiro. Faça as contas para o seu volume antes de decidir.