ABBEL: BAIR ensina LLMs a atualizar crenças para interagir por mais tempo com menos memória

Pesquisadores do BAIR (Berkeley Artificial Intelligence Research) apresentaram o ABBEL (Adaptive Belief-Based Efficient Learning), um novo framework que substitui o histórico completo de interações de LLMs por estados de crença em linguagem natural. O método reduz o consumo de memória em tarefas de longa duração e recupera cerca de 50% da diferença de desempenho em relação a modelos com contexto completo — treinando na metade dos passos.

O problema do resumo recursivo

Para assistentes de código como o Cursor, que interagem por centenas ou milhares de passos, manter todo o histórico no contexto é inviável. A solução mais comum tem sido o resumo recursivo (context compaction): o modelo gera um sumário do que aconteceu até agora e usa esse resumo como contexto para os próximos passos.

Mas essa abordagem tem um custo. Embora os benchmarks mostrem gaps de desempenho pequenos, serviços como o Cursor continuam recomendando que os usuários evitem a compactação no meio de uma tarefa — o modelo perde informações críticas ao resumir.

No ambiente Combination Lock (um jogo estilo Wordle com até 16 tentativas), os pesquisadores mostraram que modelos com resumo de contexto nunca fecham a diferença em relação aos modelos com contexto completo, mesmo após muitas iterações de fine-tuning com reinforcement learning. O problema é que fazer o modelo se auto-resumir enquanto executa a tarefa aumenta a complexidade do aprendizado — e dados de interação multiturno de alta qualidade são escassos e difíceis de coletar.

ABBEL: agindo através de gargalos de crença

Inspirado na estimação bayesiana recursiva, o ABBEL formula os resumos como estados de crença (belief states): representações em linguagem natural que o modelo atualiza periodicamente com base em novas informações. O ciclo é: crença anterior + ação + observação → nova crença.

O belief grading (graduação de crença) é o mecanismo que supervisiona a qualidade desses estados. Inspirado em autoencoders, o modelo atual (π_θ) funciona como codificador e decodificador: a crença b_t+1 é avaliada por quão bem ela permite reconstruir a observação mais recente o_t. Quanto melhor a reconstrução, maior a nota da crença — e mais recompensa o modelo recebe durante o treinamento.

Para domínios específicos como programação, heurísticas customizadas podem ser usadas: por exemplo, premiar crenças que são curtas mas preservam informação suficiente para reconstruir um git diff.

Resultados em três ambientes

CollabBench: programação colaborativa

No ambiente de coding assistido por humanos, o ABBEL com belief grading baseado em reconstrução:

• Recuperou ~50% da diferença de desempenho em relação ao contexto completo (Test Pass Rate: 0,48 vs 0,52 do full context)
• Treinou em 50 passos, contra 100 passos do ABBEL sem belief grading
• Usou menos da metade dos tokens de pico (601 vs 1.408 do full context)

Combination Lock: jogos de dedução

Com um belief grader que usa conhecimento de domínio (verificando estatísticas que deveriam ser reconstruíveis a partir da crença), o ABBEL superou até mesmo o modelo com contexto completo em eficiência de aprendizado.

QA multiobjetivo

Isolar crenças do raciocínio permitiu aplicar uma penalidade de pico de crença que reduziu significativamente o uso de memória com degradação mínima de desempenho — algo que não funciona bem quando se penaliza o comprimento do raciocínio diretamente.

Por que isso importa

O ABBEL mostra que é possível treinar agentes para gerenciar sua própria memória de forma eficiente, sem depender de prompts de sumarização escritos manualmente ou de arquiteturas complexas de compressão. As crenças em linguagem natural são legíveis por humanos, o que facilita debugging, auditoria e comunicação entre agentes.

Os autores apontam direções futuras promissoras: recompensar ações com base no efeito sobre o estado de crença, transmitir crenças entre agentes para melhor colaboração, e permitir que usuários modifiquem diretamente as memórias do agente para maior controle.

Para sistemas mais poderosos, o futuro provavelmente combinará múltiplas formas de memória: as crenças no contexto funcionariam como memória de trabalho, enquanto outras abordagens (test-time training, adaptadores, memórias contínuas) atuariam como memória de curto e longo prazo.

O paper está disponível no arXiv (arXiv:2512.20111) e o código é open source.