Pesquisador recupera recusa de segurança de LLMs em línguas africanas sem retreinar

O problema

Modelos ajustados por instrução costumam recusar pedidos nocivos em inglês, mas obedecem aos mesmos pedidos em iorubá, igbo, igala e hausa. Isso sugere que o mecanismo de recusa existe no fluxo residual do modelo, mas não ativa para entradas em idiomas de poucos recursos.

A solução proposta

O pesquisador Godwin Abuh Faruna propõe o Latent Space Refusal Anchoring (LSR-Anchoring), um método sem treinamento que extrai a “direção de recusa” de prompts em inglês e a fixa no fluxo residual no momento da inferência. A variante principal, Mean-Activation Steering (MAS), funcionou nas quatro arquiteturas testadas: Llama-3-8B, Llama-3.1-70B, Mistral-7B-Instruct e Qwen2.5-7B.

Resultados e ajustes

Em Mistral e Qwen, o método recuperou a segurança com degradação benigna abaixo de 0,08. No Llama-3-8B, porém, houve supercorreção: a degradação em prompts legítimos chegou a 1,00. Para resolver, o autor introduziu o SAE-Derived Steering (SDS), que troca a direção densa por uma única característica de autoencoder esparso, reduzindo a divergência KL em 3,5 a 7 vezes sem colapsar o comportamento benigno.

Por que isso importa

A descoberta expõe uma falha de segurança em idiomas de poucos recursos e oferece um caminho barato para corrigi-la. Para o Brasil — um país com grande diversidade linguística e onde modelos multilíngues são usados em serviços públicos e privados — garantir que a segurança não “suma” conforme o idioma é uma questão concreta de equidade e proteção.

Limitações

É um trabalho de autor único, ainda não revisado por pares, e a transferência para as quatro línguas-alvo é apresentada como resultado parcial. A generalização para outras famílias de línguas e cenários reais de implantação ainda precisa ser comprovada.