AIM: método faz IA multimodal esquecer identidades sem apagar a visão

O que é “desaprendizado” e por que isso importa agora

Modelos de linguagem com visão (MLLMs), como LLaVA e Qwen-VL, conseguem responder tanto sobre o que veem numa imagem quanto sobre quem aparece nela. Isso cria um problema jurídico e ético crescente: quando alguém pede a remoção de seus dados — direito garantido pela LGPD no Brasil —, retreinar um modelo do zero é caro e, muitas vezes, inviável. É nesse contexto que entra o desaprendizado (unlearning), a capacidade de fazer um modelo esquecer seletivamente determinada informação.

Um novo trabalho de pesquisadores sul-coreanos, ainda em pré-print no arXiv, propõe o AIM (Anchor Identity Features, Then Match), um método de duas etapas para apagar informações ligadas a identidades específicas de modelos multimodais — preservando a capacidade de descrever o que está visível na imagem.

Como o AIM funciona

O método divide o trabalho em duas fases. Primeiro, ele aprende um “prompt visual” que define o comportamento a ser esquecido. Em seguida, ajusta as características (features) do encoder de visão — a parte do modelo que processa imagens — para se alinharem a esse alvo, sob uma restrição de Fisher que controla a magnitude da atualização. O modelo de linguagem permanece congelado.

Para justificar essa divisão, os autores inspecionaram os estados ocultos (hidden states), as representações internas geradas quando o modelo processa perguntas. Descobriram que perguntas de identidade e de percepção visual ocupam regiões distintas: as de identidade se agrupam por quem aparece na imagem, enquanto as de percepção se agrupam pelo tipo de pergunta. Essa separação sugere que é possível atacar uma sem destruir a outra.

Resultados nos benchmarks

Os experimentos avaliaram os modelos LLaVA-1.5-7B e Qwen3-VL-8B-Instruct nos benchmarks MLLMU-Bench e ReMem, com proporções de esquecimento de 5%, 10% e 15%. Num teste piloto, a taxa de recusa de identidade (IDK-Rate) chegou a 100 para perguntas de identidade não vistas no LLaVA, contra 10 para perguntas de percepção visual — ou seja, o modelo “esqueceu” a identidade sem perder a visão. No Qwen, os números foram 85 e 0, respectivamente.

Nos testes maiores, o perfil foi de compromisso medido, não de apagamento total: as pontuações do lado “esquecer” apareceram ao lado de desempenho residual nos dados retidos e nos testes. O trabalho também comparou a versão de duas etapas com uma variante de etapa única, concluindo que esta última degrada o modelo de forma geral, em vez de esquecer seletivamente.

Limitações importantes

O estudo tem restrições que merecem atenção. Como o AIM atualiza apenas o encoder de visão, ele não demonstra que o conhecimento de identidade foi removido das vias puramente textuais do modelo. O método depende de uma estatística de Fisher completa, pré-computada durante o fine-tuning, que pode se tornar imprecisa em treinos mais longos. Os testes de robustez cobrem apenas perturbações de imagem listadas, sem ataques do lado do prompt, cruzados entre modalidades ou adaptativos — e todos os resultados usam uma única semente aleatória fixa.

Ou seja: os resultados são promissores, mas ainda não comprovam uma remoção completa entre modalidades nem conformidade com o direito ao esquecimento. É um passo de pesquisa, não uma solução de produção.

Por que isso interessa ao Brasil

A discussão ganha relevância prática no país por causa da LGPD, que garante a eliminação de dados pessoais quando solicitada. À medida que assistentes visuais e agentes multimodais se popularizam, cresce a pressão por mecanismos técnicos que permitam “esquecer” informações sem descartar o modelo inteiro. Métodos como o AIM apontam um caminho: em vez de retreinar tudo, mexer apenas na parte que processa imagens, preservando a capacidade geral do sistema.