Mãos e pessoas continuam sendo o ponto fraco da geração de imagens por IA

Onde a IA erra na composição de imagens — segundo olhos humanos

Uma imagem gerada por IA com uma pessoa e um objeto pode parecer perfeita à primeira vista — até você reparar na mão com seis dedos ou na xícara flutuando. Um novo preprint do arXiv quantifica esse fenômeno com anotações humanas em larga escala, criando um dataset dedicado a defeitos de composição em imagens geradas.

O estudo When Composition Doesn’t Add Up: Humans Identifying Defects in AI-Generated Images reuniu 651 imagens de referência — 166 com pessoas, 161 focadas em mãos, 161 com objetos e 163 com cenas — geradas por Midjourney, Imagen e FLUX, selecionados a partir de 80 prompts composicionais.

Como os defeitos foram registrados

Os participantes inspecionaram cada imagem e marcaram defeitos em dois níveis: global (um problema amplo na imagem) e local (uma falha ligada a um ponto específico). O processo produziu 18.906 anotações — 6.626 globais e 12.280 locais — vindas de 23 participantes válidos após filtros de confiabilidade.

O dado mais revelador: apenas 18 imagens nas categorias de pessoas e mãos foram marcadas como livres de defeito, contra 136 em objetos e cenas. Em outras palavras, corpos humanos — especialmente mãos — continuam sendo o calcanhar de Aquiles da geração de imagens, mesmo com os modelos mais recentes.

A comparação entre modelos exige cautela

Entre os grupos atribuídos, o Imagen teve quase 70 imagens marcadas como livres de defeito, com metade de suas imagens rotuladas com defeito global; o Midjourney teve 72 imagens com defeito local. Mas os autores fazem questão de separar descrição de ranking: como cada modelo recebeu grupos de prompts distintos, a comparação não foi pareada imagem a imagem — então esses números descrevem os rótulos do estudo, não uma taxa geral de defeito nem um ranking causal.

Do mapa humano ao reparo automático

O experimento de prova de conceito construiu mapas de referência a partir das localizações de defeito marcadas por humanos, ajustou o modelo TranSalNet para prever essas localizações e usou os mapas para guiar reparos no GPT-Image-1. Em quatro exemplos amostrados, o TranSalNet ajustado produziu padrões de localização descritos como “mais humanos” que os do GPT-Image-1, e as imagens reparadas mostraram melhora visível.

É importante não exagerar: são quatro exemplos ilustrativos, sem métrica quantitativa de reparo relatada. A contribuição central do trabalho é o dataset CO-AID, disponível no GitHub do projeto, com anotações humanas de imagens geradas em quatro categorias.

Por que isso importa

À medida que imagens sintéticas entram em publicidade, e-commerce, educação e mídia, entender onde os modelos falham — e como humanos percebem essas falhas — vira pré-requisito para uso responsável. Um dataset que separa defeitos globais de locais, e que permite treinar modelos para localizá-los, é um passo concreto rumo a sistemas que corrigem os próprios erros em vez de apenas gerar de novo.