Prompt, Contexto e Loop: as três camadas de engenharia que sustentam todo sistema RAG

As três camadas de engenharia que todo sistema RAG bem-sucedido implementa

Todo sistema RAG (Retrieval-Augmented Generation) é construído sobre três camadas de engenharia empilhadas em uma única chamada de LLM. Entender essa arquitetura — e como cada camada resolve um problema diferente — é o que separa um protótipo que funciona no notebook de um sistema que sobrevive em produção.

Quase toda discussão sobre RAG é, na verdade, uma discussão sobre qual camada priorizar. E a resposta correta é: todas as três.

Camada 1: Prompt Engineering

É a chamada em si — a system message, as instruções, o schema que fixa o formato da saída. Esta camada define o que o modelo deve fazer com o contexto que recebe. Um prompt bem projetado inclui não apenas instruções claras, mas também restrições de formato (JSON schema, XML) que eliminam ambiguidade na resposta.

O erro mais comum aqui é tratar o prompt como um texto genérico. Em produção, o prompt é uma interface de contrato entre o sistema e o modelo — e deve ser versionado, testado e monitorado como qualquer outro componente de software.

Camada 2: Context Engineering

É o que preenche a janela do modelo: retrieval, compressão, e a decisão crucial sobre o que deixar de fora. Esta camada responde à pergunta: “de tudo que poderíamos enviar, o que realmente importa para esta consulta específica?”

Técnicas como re-ranking, chunking semântico e compressão de contexto não são otimizações prematuras — são a diferença entre um sistema que acerta 60% e um que acerta 90% das consultas. O contexto errado é pior que contexto nenhum, porque o modelo vai tentar usá-lo de qualquer forma.

Camada 3: Loop Engineering

É o que acontece ao redor da chamada: quando a próxima chamada dispara, quando o loop para, como o sistema se recupera quando uma verificação falha. Esta é a camada mais negligenciada e a que mais causa incidentes em produção.

Um loop bem projetado inclui: critérios de parada explícitos (máximo de iterações, verificação de progresso), estratégias de recuperação (retry com backoff, fallback para busca mais ampla) e instrumentação (logging de cada iteração para debugging posterior).

O insight que muda tudo

A principal lição é que nenhuma camada resolve o problema sozinha. Um prompt perfeito com contexto ruim produz respostas ruins. Um contexto perfeito sem critérios de parada pode entrar em loop infinito. A excelência em RAG vem da integração deliberada das três camadas — e isso é, fundamentalmente, um problema de engenharia de software, não de prompt.