Meta desativa recurso de IA no Instagram que gerava deepfakes de contas públicas sem consentimento
A Meta anunciou nesta sexta-feira (10) a desativação de um recurso polêmico de IA no Instagram que permitia a qualquer usuário gerar imagens sintéticas baseadas no conteúdo de contas públicas apenas mencionando o perfil com @. A decisão veio após uma enxurrada de críticas de artistas, sindicatos e organizações de direitos digitais — menos de uma semana depois do lançamento.
O recurso, parte do novo modelo Muse Image da Meta, foi apresentado como uma ferramenta criativa: o usuário digitaria um comando para a Meta AI mencionando uma conta pública do Instagram, e o sistema geraria uma imagem inspirada no estilo ou nas fotos daquele perfil. O problema? Nenhum consentimento era necessário — qualquer conta pública estava automaticamente incluída.
O que deu errado
A falha de design era evidente desde o início. Embora a Meta tenha incluído uma opção de exclusão (opt-out) enterrada nas configurações de privacidade, a arquitetura invertia o ônus: em vez de pedir que criadores optassem por participar, a empresa presumiu que todo conteúdo público estava disponível para treinamento e geração de imagens — e cabia ao usuário descobrir como sair.
“Nossa intenção era oferecer uma ferramenta criativa útil e dar às pessoas controle sobre se seu conteúdo público poderia ser referenciado dessa forma”, disse a Meta em comunicado. “Ouvimos o feedback de que esse recurso errou o alvo, então ele não está mais disponível.”
Haley McNamara, diretora executiva do National Center on Sexual Exploitation, foi uma das vozes mais contundentes: “Isso não apenas corrói nossos direitos sobre nossa própria imagem… mas é uma ferramenta óbvia para sextorsão e outros golpistas. Buscar design de alto risco e depois colocar sobre os indivíduos a responsabilidade de pular obstáculos para sair é inaceitável.”
O Screen Actors Guild (SAG-AFTRA), sindicato que representa atores e profissionais de mídia nos EUA, também recomendou que seus membros optassem por sair do recurso e publicou instruções detalhadas sobre como fazer isso — antes mesmo da Meta anunciar a desativação completa.
O que isso significa para o Brasil
O episódio toca em questões sensíveis para o ecossistema brasileiro de criação de conteúdo. O Instagram é a segunda maior plataforma social do país, com mais de 130 milhões de usuários. Criadores de conteúdo, fotógrafos, ilustradores e influenciadores brasileiros teriam suas imagens disponíveis para geração sintética sem qualquer notificação.
Do ponto de vista regulatório, o caso reforça a urgência do PL 2338/2023 — o projeto de lei que regulamenta a IA no Brasil, atualmente em tramitação no Senado. O texto prevê mecanismos de opt-in obrigatório para uso de dados pessoais em sistemas de IA generativa e estabelece que plataformas devem informar de forma clara quando conteúdos são gerados sinteticamente.
A decisão da Meta também sinaliza que, mesmo para big techs com recursos quase ilimitados, lançar funcionalidades de IA sem salvaguardas adequadas pode gerar um custo reputacional maior do que o benefício de ser a primeira a lançar. É um padrão que vimos antes com o lançamento apressado do Bard pelo Google e os tropeços iniciais do Bing Chat da Microsoft.
O panorama das deepfakes em 2026
O recuo da Meta ocorre em um momento em que a preocupação com deepfakes atinge novos patamares. Ferramentas de geração de imagem como Midjourney V7, FLUX Pro e Stable Diffusion 4 já produzem resultados indistinguíveis de fotos reais. A diferença é que, ao contrário dessas ferramentas independentes, o recurso da Meta estava integrado a uma plataforma com mais de 2 bilhões de usuários ativos — e acesso direto a um vasto repositório de imagens reais.
Para os profissionais de IA, o caso ilustra um princípio fundamental de design responsável: features de geração de imagem baseadas em pessoas reais devem ser opt-in by design. Não basta oferecer uma opção de exclusão depois do fato.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
