Além do RAG: compressão de conhecimento orientada por tarefa na AWS

O limite do RAG tradicional

Se você está usando Retrieval-Augmented Generation (RAG) para tarefas analíticas complexas que envolvem centenas de documentos — como due diligence financeira ou revisão de conformidade regulatória — provavelmente já encontrou o teto da tecnologia. A busca por similaridade semântica encontra fragmentos relevantes, mas frequentemente perde conexões entre documentos.

Imagine uma firma de private equity avaliando a aquisição de US$ 500 milhões de uma fabricante. A equipe precisa analisar demonstrações financeiras de 12 subsidiárias em 5 anos, 200 contratos de fornecedores, relatórios ambientais de 8 instalações e mais de 50 processos judiciais. Quando um analista pergunta sobre riscos financeiros consolidados considerando os termos atuais dos fornecedores e litígios pendentes, o RAG tradicional simplesmente não consegue montar essa resposta. As informações estão espalhadas por centenas de documentos, e as conexões entre eles não compartilham similaridade lexical.

TAKC: compressão de conhecimento orientada por tarefa

A Task-Aware Knowledge Compression (TAKC) resolve esse problema usando um LLM para produzir resumos mais curtos e focados em tarefas específicas — com resumos diferentes para tarefas diferentes. Um relatório anual comprimido para análise financeira precisa de receitas, margens e fluxo de caixa. O mesmo relatório comprimido para revisão de conformidade precisa de citações regulatórias e históricos de violações.

A abordagem funciona em três etapas:

1. Indexação: cada documento é dividido em chunks e processado por um LLM (Claude ou Amazon Nova) que gera um resumo orientado à tarefa. Os resumos são armazenados em um banco vetorial (OpenSearch Serverless).
2. Recuperação: quando uma consulta chega, o sistema busca resumos relevantes (não os documentos originais), otimizando a recuperação para o contexto específico da tarefa.
3. Geração: um LLM gera a resposta final usando apenas os resumos recuperados como contexto, com citações rastreáveis de volta aos documentos originais.

Resultados na prática

Nos testes da AWS com o dataset FinanceBench (due diligence financeira real), a TAKC superou tanto o RAG ingênuo quanto o RAG com sumarização genérica. O sistema mostrou maior precisão em perguntas que exigiam raciocínio entre múltiplos documentos — exatamente onde o RAG tradicional falha.

A implementação completa é open source e pode ser deployada na sua conta AWS usando Amazon Bedrock (Claude ou Nova), OpenSearch Serverless para busca vetorial e Lambda para orquestração.

Quando usar (e quando não usar)

✅ Use TAKC quando:

• Seu domínio tem tarefas analíticas bem definidas (due diligence, compliance, pesquisa jurídica)
• As respostas exigem conexões entre múltiplos documentos
• Você processa o mesmo conjunto de documentos para múltiplos tipos de consulta

⚠️ Não use quando:

• Você precisa de busca em tempo real sobre documentos que mudam constantemente (a indexação tem custo computacional)
• Suas consultas são simples perguntas factuais que o RAG tradicional já resolve bem
• O volume de documentos é pequeno (menos de 50)

Por que isso importa agora

À medida que empresas movem IA generativa de protótipos para produção, o gargalo deixa de ser “conseguimos responder perguntas simples” e passa a ser “conseguimos raciocinar sobre toda a base de conhecimento”. A TAKC representa uma evolução prática do RAG que ataca exatamente esse ponto — e o fato de ser open source e deployável em AWS reduz a barreira de entrada para times corporativos brasileiros.