GRACE: método seleciona com mais precisão o que um modelo de linguagem deve esquecer

Por que “esquecer” importa para os modelos de linguagem

Modelos de linguagem como o Llama e o Qwen são treinados em corpora gigantescos e, ocasionalmente, aprendem comportamentos que não deveriam — desde reproduzir conteúdo protegido por direitos autorais até responder a perguntas sensíveis de biosegurança que um modelo público não deveria dominar. O unlearning (ou “desaprendizado”) é a família de técnicas que tenta remover esses comportamentos específicos sem degradar o desempenho geral do modelo.

O problema prático está na preparação: os métodos de unlearning precisam de um conjunto de exemplos “para esquecer” (forget set) e outro “para reter” (retain set). Quando a solicitação traz apenas alguns exemplos do comportamento indesejado, montar esses conjuntos de forma eficiente vira o gargalo — e é exatamente aí que entra a novidade.

O que o GRACE faz de diferente

É o caso do GRACE (Gradient-guided Coreset Selection for LLM Unlearning), descrito em um preprint no arXiv por pesquisadores da Itália. Em vez de escolher os exemplos aleatoriamente ou por similaridade de embedding, o método calcula uma direção de gradiente “para esquecer” a partir dos exemplos indesejados fornecidos e usa um algoritmo chamado NNOMP (non-negative orthogonal matching pursuit) para selecionar um conjunto compacto de amostras.

Na prática, o GRACE projeta para fora essa direção de “esquecimento” antes de escolher os exemplos representativos que devem ser preservados. Isso garante que o conjunto de retenção não reforce justamente o comportamento que se quer apagar — um detalhe que outros métodos costumam ignorar.

Resultados nos experimentos

Os autores testaram o método em modelos de código aberto — LLaMA 3.1 8B e Qwen 2.5 3B — combinados com quatro algoritmos de unlearning (GradDiff, SimNPO, NPO e RMU), rodando em uma única GPU A100 de 48 GB.

A métrica-chave, a precisão de recuperação do conjunto “para esquecer” (Forget Retrieval Accuracy, ou FRA), favoreceu o GRACE em todas as comparações. No LLaMA, o GRACE atingiu 46,67% contra 28,89% do método concorrente RASLIK no conjunto MUSE, e 82,22% contra 61,67% no WMDP-Bio. No Qwen, a vantagem foi ainda mais expressiva no MUSE: 43,33% contra 15,56%.

O ganho mais relevante, porém, apareceu na utilidade do modelo: o GRACE preservou o desempenho geral em seis das oito combinações algoritmo-modelo testadas, com o maior ganho (+0,16) no GradDiff sobre o LLaMA. Já a qualidade do esquecimento em si se mostrou menos sensível ao seletor, com diferença máxima de 0,012 entre os métodos.

O que ainda falta

Como todo preprint, há ressalvas importantes. O GRACE assume que os exemplos fornecidos induzem uma direção de esquecimento coerente — pedidos que misturam fenômenos muito diferentes podem dificultar o método. Os experimentos também dependeram de acesso controlado aos exemplos “para esquecer”, condição que nem sempre se repete em cenários reais, e o custo computacional dos gradientes por amostra somado ao NNOMP adiciona demanda de processamento.

O artigo ainda não passou por revisão por pares, mas aponta uma direção promissora para um problema que tende a crescer à medida que reguladores passam a exigir mecanismos de “direito ao esquecimento” e remoção de dados em modelos de IA.