Quando um documento tem 492 páginas e 358 entradas no sumário, a abordagem tradicional de RAG (Retrieval-Augmented Generation) — embutir cada página como vetor e buscar as top-k mais similares à pergunta — falha de forma previsível. As palavras-chave aparecem em dezenas de páginas, e o modelo gerador recebe um mix de informações corretas e irrelevantes, borrando a resposta.
Um novo artigo da série Enterprise Document Intelligence, publicado no Towards Data Science por Kezhan Shi, propõe uma alternativa elegante: Loop Engineering para recuperação hierárquica — ensinar o sistema a navegar pelo índice como um especialista humano faria.
O problema do top-k em documentos longos
O exemplo usado é o NIST SP 800-53, documento de 492 páginas que define controles de segurança para sistemas federais dos EUA. Quando um usuário pergunta “O que o controle de gerenciamento de contas exige?”, o RAG ingênuo varre todas as páginas e retorna um mix dos controles AC-2, AC-3, AC-17, mais alguns de auditoria e o glossário.
A conta é paga duas vezes: você embute 492 páginas, e a resposta ainda sai imprecisa.
A solução: navegar pelo índice em três níveis
Um especialista humano não lê 492 páginas nem examina 358 linhas de índice. Ele faz três decisões pequenas e sequenciais:
- Nível 1 — Capítulos: 11 títulos → escolhe “The Controls”
- Nível 2 — Famílias: 20 famílias → escolhe “Access Control”
- Nível 3 — Controles: controles individuais → localiza “AC-2”
O sistema proposto replica exatamente esse processo: um loop limitado dentro da etapa de recuperação que, a cada iteração, consulta um nível do índice, filtra os candidatos e aprofunda.
Resultados práticos
A abordagem hierárquica entrega dois benefícios mensuráveis:
- Economia de tokens: em vez de processar embeddings de 492 páginas, o sistema consulta 11 + 20 + ~5 = ~36 entradas de índice
- Precisão aumentada: ao isolar a seção correta antes da geração, o modelo não recebe informações de controles irrelevantes
O artigo inclui notebooks executáveis no repositório doc-intel/notebooks-vol1 no GitHub, com exemplos usando OpenAI e os documentos NIST SP 800-53 e NIST Cybersecurity Framework 2.0.
Por que isso importa
Documentos regulatórios, manuais técnicos, contratos e especificações compartilham a mesma estrutura: são longos, possuem índices detalhados e exigem precisão na recuperação. A técnica de Loop Engineering não se limita a documentos governamentais — qualquer domínio com hierarquia de tópicos (jurídico, farmacêutico, engenharia) pode se beneficiar.
O artigo faz parte de uma série mais ampla sobre RAG empresarial, cobrindo parsing de documentos, parsing de perguntas, detecção de âncoras e o “padrão árbitro” para ranqueamento de candidatos. A tese central: “amplifique o especialista, não substitua o especialista” — construa sistemas que fazem o que um profissional experiente faria, em vez de jogar tudo no modelo de uma vez.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
