Quando o modelo precisa esquecer: a ciência por trás do unlearning seletivo
Organizações que implantam modelos de fundação frequentemente encontram um desafio comum: as salvaguardas do modelo, projetadas para moderação de conteúdo, também podem bloquear casos de uso legítimos e críticos para o negócio. Uma empresa de mídia que analisa roteiros com cenas de violência, por exemplo, pode ter seu conteúdo bloqueado por filtros de segurança que não distinguem entre moderação de conteúdo público e análise editorial interna.
Como o modelo aprende essas salvaguardas durante o alinhamento de pós-treinamento, engenharia de prompt sozinha não resolve. A tendência do modelo de recusar certos conteúdos está embutida em seus parâmetros, exigindo uma intervenção direcionada.
CCMS: controle granular de moderação no Amazon Nova
O Amazon Nova Customizable Content Moderation Settings (CCMS) permite que clientes aprovados ajustem seletivamente as salvaguardas em quatro pilares de IA responsável:
- Segurança: atividades perigosas, armas e substâncias controladas
- Conteúdo sensível: palavrões, nudez e bullying
- Equidade: considerações sobre viés e cultura
- Segurança de TI: malware e conteúdo malicioso
Controles essenciais e não configuráveis permanecem ativos para prevenir danos a crianças e preservar a privacidade.
A ciência: rDPO, uma evolução do unlearning
A técnica por trás do CCMS é o unlearning — remoção seletiva de comportamentos aprendidos dos parâmetros do modelo sem retreinamento do zero. O time da AWS treina adaptadores LoRA (Low-Rank Adaptation) para reverter políticas específicas de IA responsável.
O desafio central é realizar esse unlearning de forma eficaz: o modelo deve parar de recusar conteúdo em áreas-alvo enquanto preserva suas capacidades gerais — seguir instruções, raciocinar e evitar alucinações.
Uma abordagem estado da arte é o Negative Preference Optimization (NPO), que se baseia no Direct Preference Optimization (DPO). O DPO treina o modelo para classificar respostas preferidas acima das não preferidas — o oposto do que o unlearning precisa.
A AWS desenvolveu o rDPO (reversed DPO), que inverte o par de preferência no objetivo do DPO. Em vez de simplesmente fazer o modelo esquecer, o rDPO simultaneamente o guia para gerar respostas de alta qualidade nos domínios alvo. Os resultados mostram que o rDPO converge para precisão próxima de 1 por volta do passo 30 de treinamento, sendo significativamente mais eficiente que o NPO em termos de desempenho de unlearning.
Pipeline de personalização
O fluxo começa com a curadoria de um conjunto de prompts representando as áreas de política alvo. Com base nesses prompts, são gerados os conjuntos de dados de “esquecimento” e “retenção”. O adaptador LoRA é então treinado com rDPO e entregue ao cliente como um modelo customizado.
Essa abordagem representa um avanço importante na flexibilização de modelos de fronteira para casos de uso empresariais legítimos, sem comprometer as salvaguardas essenciais de segurança.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
