O que a pesquisa descobriu
Quando um gerador de imagens de IA produz um retrato, de quem é o trabalho que foi parar ali? Essa pergunta está no centro de processos judiciais, acordos de licenciamento e regulações em todo o mundo. Um novo estudo do CSAIL, laboratório de ciência da computação e IA do MIT, sugere que — para modelos treinados em grandes conjuntos de dados — essa pergunta muitas vezes simplesmente não tem resposta.
Os cientistas identificaram um fenômeno que batizaram de “decaimento de atribuição” (attribution decay): quanto mais dados um modelo generativo usa no treinamento, menos qualquer exemplo individual importa para um resultado específico. De forma contraintuitiva, em escalas suficientemente grandes é possível remover uma única imagem do treinamento, todas as imagens de um determinado artista, ou todas as fotografias de uma pessoa — e a imagem gerada praticamente não muda.
Por que isso importa
O trabalho desafia a lógica por trás de disputas de direitos autorais e de pedidos de remoção. A técnica desenvolvida pelos pesquisadores permite remover cirurgicamente exemplos de treinamento de um modelo e observar o que acontece com as saídas. O resultado revela que, conforme os conjuntos de dados crescem, o vínculo entre o que o modelo aprende e o que ele produz se dissolve.
Isso não significa que as ferramentas de rastreamento sejam inadequadas — significa que a própria conexão desapareceu. Para artistas que buscam crédito, empresas que buscam clareza e legisladores que buscam atribuir responsabilidade, a implicação é profunda: a autoria individual de uma imagem gerada pode ser, na prática, irrecuperável em modelos de grande escala.
Os pesquisadores demonstram isso comparando um modelo treinado com obras de domínio público de 744 artistas e as variações que teriam sido geradas caso qualquer um desses artistas tivesse sido omitido — imagens visualmente muito próximas das originais.
O que isso muda na prática
O estudo tem consequências diretas para três frentes. Para o direito autoral, enfraquece a noção de que uma obra específica possa ser apontada como fonte de um determinado output. Para a governança de modelos, reforça a necessidade de pensar em responsabilidade no nível do conjunto de dados e do processo, e não da imagem individual. E para o debate regulatório, mostra que exigências de “rastreabilidade total” podem ser tecnicamente inviáveis na escala atual.
A pesquisa do MIT não encerra a discussão sobre quem deve ser remunerado pelo uso de dados de treinamento — mas adiciona um dado técnico importante a uma disputa que até aqui vinha sendo travada principalmente no campo jurídico.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
