Técnica do MIT audita modelos de IA para conteúdo ilegal sem gerar imagens proibidas
Pesquisadores do MIT e da organização de proteção infantil Thorn desenvolveram um método inovador de auditoria que consegue detectar se um modelo de inteligência artificial generativa foi adaptado para produzir material de abuso sexual infantil (CSAM, na sigla em inglês) — sem jamais gerar uma única imagem. A técnica não generativa resolve um dilema jurídico e ético que paralisava a fiscalização de modelos open-source.
O problema é grave e crescente: o National Center for Missing and Exploited Children (NCMEC) recebeu mais de 1,5 milhão de denúncias de CSAM gerado por IA em 2025, um salto de 2.200% em relação às 67 mil de 2024. Plataformas como Hugging Face hospedam milhares de variações de modelos que qualquer pessoa pode baixar e especializar com fine-tuning.
O impasse jurídico que o MIT resolveu
Auditar modelos de IA tradicionalmente exige fazer perguntas e inspecionar as respostas. Mas gerar CSAM é crime nos Estados Unidos e em dezenas de outros países — independentemente da intenção. “Estávamos numa situação em que, com base na própria lei, não podíamos usar o método padrão de avaliação. Tivemos que jogar fora todo o toolkit e adotar uma abordagem diferente”, explica Vinith Suriyakumar, doutorando do MIT e autor principal do estudo.
Como funciona: sondagem gaussiana nos adaptadores LoRA
O segredo está em examinar os adaptadores LoRA (Low-Rank Adaptation) — as modificações aplicadas durante o fine-tuning de um modelo base. Em vez de rodar o modelo até o fim, a equipe usa uma técnica chamada sondagem gaussiana (Gaussian probing): alimenta o modelo com dados aleatórios e analisa como as representações internas são transformadas em múltiplas camadas.
“Nunca rodamos o modelo até o final nem fazemos prompting, então nunca geramos imagens”, afirma Suriyakumar. As respostas internas capturadas em diferentes pontos da arquitetura do modelo são agregadas para formar uma assinatura que revela se o modelo foi especializado para conteúdo nocivo.
Nos testes com variações de três arquiteturas diferentes, o método atingiu 100% de precisão na identificação de modelos adaptados para gerar CSAM, comparado com ground truth de adaptadores conhecidos.
Escalável e resistente a tentativas de burla
Com milhares de variações de modelos publicadas online todo mês, a escalabilidade é crucial. A sondagem gaussiana é computacionalmente leve e, segundo os pesquisadores, difícil de burlar: um ator malicioso precisaria alterar profundamente a estrutura interna do modelo base para evitar a detecção — o que comprometeria a qualidade do conteúdo gerado.
O trabalho, que também envolve as professoras Ashia Wilson e Marzyeh Ghassemi (MIT EECS e LIDS), além de colaboradores da Boston University e da Thorn, foi apresentado como destaque no workshop “Trustworthy AI for Good” do ICML 2026.
“Há uma enorme gama de preocupações com segurança infantil envolvendo IA, e são preocupações reais que precisam ser enfrentadas. Muitas crianças estão sendo prejudicadas por deepfakes de IA. Mostramos que a sondagem gaussiana pode ser uma ferramenta muito útil, e esperamos que a comunidade de pesquisa dedique mais atenção a esse problema”, diz Wilson.
O próximo passo da equipe é testar a técnica em conjuntos maiores de modelos e investigar se a sondagem gaussiana consegue detectar capacidades nocivas já no modelo base, antes mesmo do fine-tuning.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
