Ele raspou 12 milhões de obras de arte — praticamente todo o acervo público da plataforma Cara — e publicou o arquivo de 12 terabytes num subreddit pró-IA, escrevendo que “foi um projeto divertido” que custou menos de US$ 10. Agora, o mesmo estudante se arrependeu e está colaborando com a fundadora da Cara numa ferramenta open source para proteger artistas.
A história, contada pela WIRED, ilustra o vácuo regulatório em torno da raspagem de dados para treinamento de IA — e como até os atacantes podem mudar de lado.
O que aconteceu com a Cara
A Cara é uma plataforma que filtra imagens geradas por IA e oferece proteções como o Glaze, que mascara o estilo das imagens para atrapalhar a imitação por IA. Mas impedir a raspagem em si é quase impossível. Só neste mês, a partir de 13 de agosto, a Cara sofreu três raspagens em grande escala, que elevaram os custos de servidor e alarmaram criadores que migraram do Instagram — onde todo conteúdo fica explicitamente disponível à Meta como dado de treino.
A primeira veio à tona quando o responsável, sob o nome MandarinDawnPoppy994, publicou o arquivo no r/DefendingAIArt. “Descobrimos porque nossos usuários nos marcaram”, disse Jingna Zhang, fundadora da Cara, à WIRED, já que o raspador estava “se gabando e procurando gente para se juntar a ele”.
Uma segunda raspagem puxou cerca de 8,5 milhões de links da Cara, além de metadados como nomes de usuário, títulos e tags, enviando tudo ao Hugging Face. Após uma enxurrada de pedidos de remoção, a plataforma afirmou que removeria os metadados pessoais, mas não as URLs, já que “nenhuma cópia das obras está hospedada aqui”. Por fim, em 22 de agosto, uma terceira raspagem obteve 123 mil imagens, postagens de texto e bios com informações pessoais, compartilhadas no site Academic Torrents.
O atacante que se arrependeu
“Heft”, estudante na América do Norte com formação em software, contou à WIRED que raspou a Cara originalmente como “apenas um projeto técnico”, sem intenção de tornar os dados públicos. Ele admite que tomou “uma decisão tola de provocar com o dataset no Reddit” e que foi “levado pela trollagem nos comentários”. Ao conversar diretamente com artistas, ele entendeu o quanto as obras são pessoais: viu pessoas relatando “ataques de pânico por causa da raspagem” e apagando portfólios inteiros da internet.
“Em retrospecto, não apenas mirar deliberadamente na Cara, mas apresentar aquilo da forma como apresentei, foi cruel e impensado”, disse Heft. “Não percebi as consequências que isso teria além de causar um pouco de raiva.”
Ele também desmistifica o risco: 12 milhões de imagens “não é muito para treinar um modelo de imagem”, e é “altamente improvável que OpenAI ou Anthropic estejam escaneando cada novo dataset do Hugging Face para treinar”.
A ferramenta Lantern
Depois de se juntar ao servidor Discord da Cara como solucionador de problemas, Heft e Zhang estão colaborando numa contramedida chamada Lantern. A ferramenta permite que artistas criem uma “impressão digital de mão única” (one-way fingerprint) de suas imagens sem armazená-las na plataforma. Ela “escaneia regularmente novos datasets públicos de imagens de IA” e, se a obra de um artista aparecer em um deles, ele recebe uma notificação com o link para pedir remoção ou enviar um aviso de retirada.
A Lantern está apenas começando — é o tipo de solução imperfeita inspirada por um vácuo regulatório. Zhang já lançou um GoFundMe para custas judiciais, com meta de US$ 120 mil (mais de US$ 100 mil já arrecadados). Ela é parte de duas ações coletivas em andamento movidas por artistas visuais: uma contra Stability AI e Midjourney, outra contra o Google, alegando que os geradores de imagem foram treinados com obras protegidas por direitos autorais.
“Ser atacado por IA vai se tornar cada vez mais comum”, diz Zhang. “E, na maioria das vezes, o atacante não vai pedir desculpas — muito menos tentar consertar as coisas.”
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
