Poda de modelos e interpretabilidade: o que sobrevive quando o modelo encolhe

Poda de modelos e interpretabilidade: o que sobrevive quando o modelo encolhe

Poda (pruning) é a técnica que remove pesos desnecessários de um modelo para deixá-lo menor e mais rápido. Mas o que acontece com a nossa capacidade de interpretar o modelo depois que ele é podado? Um novo preprint do arXiv investiga exatamente isso — e encontra uma ordem clara entre os métodos.

O estudo When Pruning Meets Interpretability: Preserving Sparse Autoencoder Robustness in LLMs usa sparse autoencoders (SAEs) — os modelos de análise de features que examinam os padrões nas ativações internas de um modelo — como uma “lente” fixa para medir o dano que cada método de poda causa.

A ordem dos métodos de poda

No teste principal com o gemma-2-2b a 50% de esparsidade, o resultado foi consistente:

• MAGNITUDE (poda por magnitude dos pesos): degradação mais severa nas medidas do SAE;
• WANDA: mais robusto;
• SparseGPT: o que ficou mais próximo do modelo denso, em oito métricas e 26 camadas.

As maiores diferenças apareceram em duas medidas de intervenção: SCR (Spurious Correlation Removal) e TPP (Targeted Probe Perturbation). Nas camadas mais afetadas, o SCR sob MAGNITUDE caiu até 60% abaixo do baseline denso e o TPP até 80% — enquanto WANDA e SparseGPT ficaram entre 15% e 25% do baseline.

O alerta: a pontuação geral esconde falhas específicas

O achado mais importante é metodológico. Nas camadas intermediárias sob MAGNITUDE, a pontuação de divergência KL continuou em 0,96 ou mais — parecendo saudável — enquanto o SCR e o TPP colapsaram. Em outras palavras, métricas agregadas podem esconder danos graves à interpretabilidade em nível de feature.

A sensibilidade também variou por profundidade: as camadas intermediárias (9 a 17) foram mais sensíveis que as iniciais (0 a 8) ou finais (18 a 25) em todos os níveis de esparsidade testados — 25%, 40% e 50% — e o perfil subiu de forma monotônica com a esparsidade.

Uma medida empírica de energia de perturbação (ε2) seguiu o mesmo ranking a 50% de esparsidade: SparseGPT mais baixo, WANDA no meio e MAGNITUDE mais alto, em todos os grupos de camadas.

Distribuir a esparsidade de forma desigual ajuda

O estudo também testou um cronograma camada a camada em vez de esparsidade uniforme: 20% nas camadas iniciais, subindo para 60% na camada intermediária e mantendo 60% depois. Com isso, a perplexidade caiu de 212 para 148 no WANDA e de 141 para 98 no SparseGPT. É uma avaliação preliminar em um modelo e dois métodos, mas sugere que onde você poda importa tanto quanto quanto você poda.

Limites e o que vem a seguir

Os autores são explícitos sobre o escopo: a comparação cobriu quatro pares modelo-SAE, centrada em SAEs do residual stream, com pesos de SAE mantidos fixos. Não foi testado se re-treinar o SAE sobre as ativações podadas recuperaria features consistentes com o modelo denso. O código está disponível no repositório sae-robustness-under-pruning.

Para quem trabalha com compressão de modelos em produção, a lição prática é direta: se você depende de interpretabilidade — por exemplo, para auditoria de segurança ou alinhamento — o método de poda importa, e as métricas de benchmark de linguagem não contam a história completa.