VoiceMem: memória de voz em streaming supera Mem0 com 4x menos tokens

Assistentes de voz que conversam por longos períodos esbarram em um problema antigo: como lembrar o que o usuário disse, sentiu e pediu, sem estourar o limite de tokens e a latência. O VoiceMem, apresentado em um preprint do arXiv, propõe uma memória de voz em streaming que divide a recordação em duas estruturas paralelas e lidera benchmarks usando uma fração dos tokens das alternativas.

Duas memórias para dois tipos de informação

O sistema separa o que precisa lembrar em dois “cérebros”: um armazém informacional (fatos, pedidos, dados) e um armazém afetivo (emoções e persona). A recuperação é dividida em quatro estágios — escuta, cauda de fala, antecipação e busca — pensados para funcionar em tempo real durante uma conversa.

Nos testes de memória de informação, o VoiceMem liderou 7 de 11 subcategorias, com média de 76,39 — cerca de 24 pontos à frente do Mem0 e 15,9 pontos acima do processamento de contexto completo. Em conversas longas de múltiplos turnos com áudio, venceu em 11 de 14 categorias.

Menos tokens, mais rápido

O dado mais prático aparece na comparação de baixa latência. Com o orçamento de recuperação padrão (K=5), o VoiceMem atingiu 91,2 pontos usando 430 tokens de memória e 134 milissegundos de recuperação. O EverMemOS, por outro lado, marcou 83,13 usando 1.899 tokens — ou seja, o VoiceMem ficou 8,1 pontos à frente gastando 4,4 vezes menos tokens.

A curva de ganho se achata após K=5: aumentar o orçamento para K=100 adiciona apenas 2,3 pontos ao custo de oito vezes mais tokens. Isso sugere que o sistema extrai quase todo o valor com um orçamento enxuto — uma boa notícia para quem paga por token.

Limites do estudo

Os resultados são majoritariamente pontuações de juiz de LLM e medidas de engenharia, sem intervalos de confiança. Não há evidência de melhora em satisfação do usuário, empatia ou desfechos reais de conversa — o artigo não recrutou participantes nem conduziu estudo prospectivo com usuários. O número de 134 ms mede apenas a recuperação, não a latência conversacional de ponta a ponta.

Para quem desenvolve assistentes de voz, chatbots de atendimento ou companheiros de IA, a lição é direta: separar memória factual de memória afetiva, e recuperar em streaming, pode reduzir custo e latência sem sacrificar qualidade.