ReliableRAG filtra desinformação em respostas de IA com recuperação de documentos

O calcanhar de Aquiles do RAG

Sistemas de RAG (Geração Aumentada por Recuperação) conectam modelos de linguagem a bases de documentos externas para responder com mais precisão. Mas, quando os documentos recuperados contêm informação errada ou maliciosa, o modelo pode propagar esse erro pela cadeia de raciocínio — especialmente em perguntas de múltiplas etapas (multi-hop), que dependem de encadear várias fontes.

A estratégia do ReliableRAG

Um preprint de 26 de agosto de 2026 descreve o ReliableRAG, um método que quebra o material recuperado em triplas — unidades individuais de informação —, avalia cada uma por relevância e credibilidade, mantém apenas as confiáveis e não redundantes, e então constrói a cadeia de raciocínio passo a passo (autoregressivamente).

Nos três benchmarks avaliados (HotPotQA, 2WikiMultiHopQA e MuSiQue), o ReliableRAG reportou as maiores pontuações de Exact Match: 55,10%, 49,50% e 31,60%, respectivamente, num cenário ideal com documentos de baixa credibilidade injetados de forma controlada.

O que ainda não está resolvido

Os números fortes valem para um cenário controlado: documentos vindos da Wikipédia e desinformação gerada por IA de forma controlada. Não há evidência de como o método se comporta com desinformação adaptativa do mundo real ou em produção. Uma análise de ablação mostrou que remover a “extração de triplas” derruba o EM em 34,1 pontos no HotPotQA — sinal de que essa etapa é central. O código foi disponibilizado anonimamente, mas o acesso não foi verificado de forma independente.

Para quem constrói aplicações RAG no Brasil — de chatbots jurídicos a assistentes de e-commerce —, o trabalho oferece um lembrete útil: a qualidade da resposta depende tanto do filtro de credibilidade quanto da recuperação em si.