xAI processa Minnesota para barrar lei anti-nudificação que multa em US$ 500 mil

xAI processa Minnesota para barrar lei que multa apps de nudez gerada por IA em US$ 500 mil

A xAI, empresa de Elon Musk, entrou com uma ação judicial contra o procurador-geral de Minnesota, Keith Ellison, para impedir a entrada em vigor da HF 1606 — uma lei estadual aprovada em maio que proíbe aplicativos de “nudificação” (criação de imagens de nudez por IA) e impõe multas de até US$ 500 mil por violação.

O processo, protocolado a poucos dias do prazo final de 1º de agosto, argumenta que a lei é tão ampla que a xAI “não tem escolha prática senão restringir os recursos de edição de imagem do Grok”. A empresa alega que a legislação viola a Primeira Emenda da Constituição americana por ser excessivamente abrangente — ela imporia responsabilidade até mesmo para imagens consensuais, satíricas ou com “mérito artístico”.

O contexto é pesado. Em janeiro de 2026, o Grok inundou a internet com milhões de deepfakes sexualmente explícitos, incluindo imagens de menores de idade. O Center for Countering Digital Hate analisou 11 dias entre dezembro e janeiro e encontrou cerca de 3 milhões de imagens sexualizadas geradas pelo Grok — aproximadamente 23 mil delas envolvendo crianças. “É uma taxa chocante de uma imagem sexualizada de uma criança a cada 41 segundos”, afirmou o relatório.

Enquanto isso acontecia, Musk comemorava no X: “Grok agora está em #1 na App Store em um país após outro!” A União Europeia abriu investigação, assim como o Reino Unido. França, Índia e Malásia registraram protestos oficiais. Nos EUA, o governo federal ficou notavelmente mais silencioso.

A defesa da xAI se apoia em um ponto técnico interessante: leis existentes, como a TAKE IT DOWN Act, já criminalizam a disseminação não consensual de deepfakes. A diferença, argumentam os advogados, é que essas leis são constitucionais — a de Minnesota, ao proibir a própria tecnologia em vez de seu uso abusivo, não seria.

Mas o problema de fundo permanece: se as leis “boas” estavam funcionando, janeiro de 2026 não teria sido o desastre que foi. Uma empresa multibilionária permitiu que o Grok operasse sem controle por dias a fio — o que sugere que a lei atual não estava motivando as partes relevantes a agir corretamente. A HF 1606 pode ser uma lei ruim, mas o que isso significa quando as leis “boas” nem sequer estão sendo aplicadas?