A xAI, empresa de inteligência artificial de Elon Musk agora integrada à SpaceX, enfrenta uma nova frente jurídica. Uma mulher identificada nos autos como “Jane Doe 4” se juntou ao processo coletivo movido por três adolescentes do Tennessee contra a companhia, alegando que o chatbot Grok foi usado para criar material de abuso sexual infantil (CSAM, na sigla em inglês).
O que a denúncia afirma
Segundo reportagem do The Washington Post, a mulher relatou que o padrasto usou o Grok para manipular uma foto tirada quando ela tinha 11 anos, gerando mais de 7 mil imagens explícitas. O padrasto foi encontrado morto por suicídio dois dias depois que as imagens foram descobertas em uma operação das autoridades.
“O acesso ilimitado a essas ferramentas está se espalhando muito rápido”, disse a mulher. “Está transformando a vida cotidiana em abuso sexual infantil.”
O processo coletivo
Os adolescentes que iniciaram a ação acusam a xAI de não ter adotado precauções básicas para impedir que o Grok fosse usado na criação de imagens explícitas de pessoas reais, incluindo menores de idade. A ação pede status de ação coletiva (class action).
O caso se soma a um cenário mais amplo: o X (antigo Twitter) foi inundado por milhões de imagens sexualizadas geradas pelo Grok no início deste ano, o que levantou questionamentos sobre a real eficácia dos filtros de segurança do modelo.
Por que isso importa agora
O episódio reacende o debate sobre a responsabilidade das plataformas de IA generativa na prevenção de abusos. Ferramentas de geração de imagem se tornaram mais acessíveis e poderosas, enquanto os mecanismos de proteção contra deepfakes não consensuais e material de abuso ainda evoluem de forma desigual entre os provedores.
Para o Brasil, o caso tem ressonância direta. Deepfakes íntimos não consensuais já são crime (Lei 13.718/2018), e o Marco Legal da Inteligência Artificial em tramitação no Congresso discute obrigações de segurança e transparência para sistemas de IA. A experiência americana tende a servir de referência para a regulação brasileira em construção.
A TechCrunch afirma ter procurado a xAI para comentar o caso, mas não havia resposta até a publicação da reportagem.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
