Na segunda-feira, a Promotoria Distrital de Manhattan anunciou a apreensão de 12 domínios usados, segundo o órgão, para compartilhar, publicar e vender vídeos deepfake de celebridades de forma ilegal. Cerca de 1.200 pessoas — a esmagadora maioria mulheres — apareciam em imagens e vídeos sexuais não consensuais nos sites, de acordo com o escritório do promotor Alvin Bragg. Entre as vítimas estavam influenciadoras, atores, ativistas, atletas, músicos e políticos.
“Essas violações horríveis de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e cobram um preço imenso no bem-estar emocional e mental”, disse Bragg em comunicado, pedindo que potenciais vítimas entrem em contato com o setor de crimes cibernéticos da promotoria. As investigações sobre quem opera os sites — e sobre quem enviou os vídeos — seguem em andamento.
A ação mais ampla contra deepfakes explícitos até agora
As apreensões, feitas com base nas leis de processo criminal de Nova York, representam uma das ações mais significativas contra sites de deepfake explícito desde que a tecnologia surgiu, no fim de 2017. Conforme a IA evoluiu, apareceu uma indústria obscura de sites, apps e bots criados para “despir” fotos de mulheres ou gerar vídeos sexuais gráficos com seus rostos. As imagens estão cada vez mais realistas e podem ser geradas em segundos.
Embora a tecnologia seja usada com frequência contra mulheres e meninas anônimas — muitas vezes compartilhada em grupos privados de redes sociais —, celebridades têm falado abertamente sobre os danos e a dificuldade de remover o conteúdo. A lei americana Take It Down permite cada vez mais a remoção de imagens, incluindo a possibilidade de que autoridades policiais derrubem e apreendam sites.
Como funcionava a operação
A promotoria não divulgou os nomes dos sites apreendidos. Mas a WIRED observou, de forma independente, várias páginas iniciais sendo substituídas por avisos de apreensão — “ESTE DOMÍNIO FOI APREENDIDO” — no fim da semana passada. Os sites agora informam ter sido tomados após um mandado emitido pela Suprema Corte do Estado de Nova York.
Os domínios provavelmente foram vistos milhões de vezes. Muitos usavam nomes com expressões como “celebridade do sexo” ou prometiam “deepfakes reais”. Vídeos podiam ter vários minutos de duração e incluíam cenas totalmente explícitas, frequentemente trocando o rosto de celebridades ou figuras públicas em vídeos pornográficos existentes. Versões arquivadas mostram que alguns vídeos tinham dezenas de milhares de visualizações, e um dos sites dizia estar no ar desde 2018.
Benjamin Shultz, pesquisador-chefe do American Sunlight Project, afirma que muitos vídeos eram republicações de conteúdo originalmente compartilhado no site MrDeepFakes, plataforma notória tirada do ar depois que seus criadores foram desmascarados por jornalistas. Segundo Shultz, em pelo menos dois dos sites apreendidos havia perfis de políticos eleitos com nome e cargo, acompanhados de uma grade de vídeos manipulados.
Por que isso importa
Leonie Oehmig, pesquisadora do Institute for Strategic Dialogue, considera as apreensões uma vitória na luta contra as imagens íntimas não consensuais sintéticas (NCII, na sigla em inglês). Para ela, a aplicação das leis estaduais mostra que o conteúdo nocivo pode ser combatido, mesmo onde a regulação segue fragmentada entre jurisdições.
Mas há muito trabalho pela frente. “Uma intervenção eficaz precisa atacar o ecossistema em vários pontos”, diz Oehmig — incluindo as ferramentas usadas para criar as imagens, os mecanismos de descoberta e promoção, a infraestrutura de hospedagem e os sistemas de pagamento que permitem monetizar o abuso. A apreensão de Manhattan é um primeiro passo contundente, mas é apenas uma peça de um problema muito maior.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
