A Meta anunciou mudanças nas sugestões de prompts da sua assistente de IA depois que um vídeo viral mostrou a ferramenta vasculhando informações pessoais sobre as filhas pequenas de uma usuária. Em nota enviada ao The Verge, a porta-voz Dina El-Kassaby admitiu que a empresa “errou o alvo” e que o recurso “nunca deveria ter apresentado à pessoa perguntas desse tipo”.
O que aconteceu
Na semana passada, a usuária do Instagram Kalie Robins publicou um vídeo em que explica como a Meta AI lhe apresentou uma sugestão invasiva depois que ela republicou um clipe no Facebook. A sugestão “Quem é a criança passageira?” apareceu abaixo de um vídeo dela cantando com a filha no carro.
Ao selecionar o prompt, Robins conta que a Meta AI reuniu informações sobre as filhas dela a partir de posts anteriores seus e de parentes. A ferramenta passou a sugerir perguntas sobre a idade das crianças e sobre onde Robins mora com a família. Segundo ela, a Meta AI também exibiu fotos das filhas publicadas na plataforma — incluindo uma que ela afirma ter excluído anos atrás.
Como a Meta respondeu
A Meta integrou seu assistente de IA ao Facebook, Instagram, WhatsApp e Messenger, onde ele responde perguntas, escreve posts e gera imagens. Em julho, a empresa já havia removido um recurso que permitia criar deepfakes de outros usuários do Instagram após forte reação negativa.
El-Kassaby afirma agora que a Meta corrigiu o problema que fazia a Meta AI sugerir prompts sobre tópicos pessoais. “Criamos esse recurso para ajudar as pessoas a obter mais informações sobre tópicos ou posts que lhes interessam”, disse. “Quando alguém clica em um prompt e usa o recurso, a resposta gerada se baseia em informações que o usuário já tem acesso.”
No caso específico, a Meta AI pode ter extraído dados de vídeos em que Robins nomeava as filhas, segundo a porta-voz — o que não eliminou a sensação de que a assistente cruzou dados de forma agressiva demais.
Por que isso importa
O episódio reacende uma preocupação que se tornou central no debate sobre IA generativa em redes sociais: o quanto assistentes embutidos em plataformas podem combinar dados públicos de um usuário para produzir inferências pessoais e constrangedoras. Para o público brasileiro — um dos maiores do mundo no Instagram e no WhatsApp — o caso serve de alerta sobre o tipo de informação que fica exposto quando a IA cruza fotos, vídeos e posts antigos de uma pessoa, muitas vezes sem que ela se lembre do que ainda está acessível.
A Meta não detalhou tecnicamente o que foi alterado, mas a promessa é de que sugestões sobre temas pessoais deixem de aparecer. Enquanto isso, especialistas recomendam revisar configurações de privacidade e limpar posts antigos que revelem dados sensíveis sobre crianças e localização.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
