FARCA: método de treino mira a factualidade para reduzir alucinações em LLMs

Alucinação continua sendo o maior risco

Modelos de linguagem ainda inventam fatos com confiança — um problema crítico para quem usa IA em produção. Um preprint de 25 de agosto de 2026 descreve o FARCA (Fact-Aligned Reliability-Aware Credit Assignment), um método de treinamento por reforço que mira diretamente a factualidade das respostas.

A ideia central

O FARCA quebra o raciocínio do modelo em fatos atômicos — afirmações pequenas e verificáveis — e rastreia cada fato até os tokens de origem que o produziram. Em seguida, usa atribuição contrafactual para medir o quanto a verificação depende de cada evidência, tratando essa dependência como uma proxy de confiabilidade. O resultado é um sinal de crédito (recompensa) em nível de token.

Resultados em modelos pequenos

Testado em Qwen2.5-3B-Instruct e Llama-3.2-3B-Instruct, o FARCA reportou as maiores pontuações nos benchmarks de alucinação listados: no Qwen, 3,56 no SimpleQA, 45,41 no TruthfulQA e 25,78 no HalluQA. Comparado ao FaithRL, o ganho médio foi de 1,75 ponto percentual no Qwen e 2,21 no Llama. No GSM8K, atingiu 84,46 de Pass@1.

O treino usou fine-tuning completo por uma época em quatro GPUs A6000, com cerca de 2.000 exemplos amostrados — uma configuração relativamente acessível. Como todo preprint, a evidência é restrita a dois modelos de 3B e aos datasets citados; a generalização para outros tamanhos, verificadores e domínios segue em aberto. Ainda assim, a ideia de “creditar” a factualidade até a origem do token é um caminho promissor para modelos mais confiáveis.