Sistemas de busca e recomendação precisam cada vez mais retornar um conjunto de resultados, não uma única melhor correspondência. Uma consulta como “equipamento de camping” deve trazer barraca, saco de dormir, fogareiro e lanterna — e não dez barracas quase idênticas. Para esse problema, o Google Research apresentou o Retrieve-for-Train (R4T), um framework que usa aprendizado por reforço offline para aprender uma boa expansão de consultas e depois destila esse comportamento em um pequeno modelo de difusão.
Por que a expansão padrão falha
A expansão de consulta divide um prompt amplo em várias subconsultas. A equipe do Google identifica dois problemas quando um LLM genérico faz isso em tempo de inferência. O primeiro é o colapso parafrástico: para “estilo de festival boêmio”, um modelo escreveu variações quase sinônimas que recuperaram um conjunto homogêneo de resultados. O segundo é a latência: a geração autorregressiva somada a chamadas repetidas de recuperação é lenta.
O pipeline em três passos
Primeiro, um modelo de expansão (FOLM) gera subconsultas que um recuperador denso executa, e uma recompensa em nível de conjunto pontua o conjunto inteiro. Depois, o FOLM amostra 128 expansões por consulta, criando pares de treinamento sem rótulos humanos. Por fim, um transformador de difusão de 53,9 milhões de parâmetros aprende a mapear uma consulta para um conjunto completo de embeddings alvo, gerando tudo em uma única passada não autorregressiva.
Resultados e relevância
O ganho central é de velocidade: de 12× a 20× mais rápido no fan-out de consultas, ao evitar a geração token a token e as chamadas repetidas ao recuperador. Para sistemas de busca e recomendação que operam em escala — incluindo varejo, e-commerce e plataformas de conteúdo — isso representa menos custo de inferência sem sacrificar a diversidade dos resultados.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
