Em 2024, a diretora Valerie Veatch se interessou pelo modelo de IA generativa de texto para vídeo Sora, lançado pela OpenAI. Apesar de não compreender completamente a tecnologia, sua curiosidade sobre as possibilidades e a formação de comunidades artísticas online a motivaram a explorar essa nova ferramenta. Contudo, Veatch logo se deparou com um problema grave: a geração frequente de imagens carregadas de racismo e sexismo, e a indiferença dos entusiastas da IA diante dessas manifestações.
Ghost in the Machine: um olhar crítico sobre a gênese da IA generativa
O desconforto com os resultados preconceituosos da tecnologia levou Veatch a produzir o documentário Ghost in the Machine, que traça a história e os fundamentos intelectuais que moldaram a inteligência artificial generativa (gen AI) como conhecemos hoje. Ao contrário das narrativas otimistas que exaltam os benefícios futuros da gen AI, o filme foca na origem da tecnologia para evidenciar o ciclo intenso de hype da indústria e as raízes problemáticas que influenciam seu funcionamento atual.
Do termo “inteligência artificial” à eugenia vitoriana
Em uma entrevista concedida durante a divulgação do documentário, Veatch destaca que o termo “inteligência artificial” foi cunhado em 1956 por John McCarthy, principalmente para captar investimentos. Contudo, a história que o filme revela é mais profunda e controversa: começa na Inglaterra vitoriana com Francis Galton, criador da eugenia, uma pseudociência racista que defendia a “melhoria” da humanidade pela eliminação de grupos considerados inferiores.
Galton, primo de Charles Darwin, desenvolveu técnicas de modelagem multidimensional usadas para medir atributos físicos de mulheres africanas e europeias, que influenciaram seu protegido Karl Pearson. Pearson criou ferramentas estatísticas como a regressão logística, base fundamental para o aprendizado de máquina moderno. Essa conexão histórica demonstra como a ciência racializada e discriminatória está imersa nas bases da IA atual.
Racismo e sexismo embutidos nos modelos de IA
Veatch relata suas experiências pessoais com o Sora, onde uma mulher negra do grupo de artistas percebeu que o modelo “branqueava” suas imagens, inserindo-a em espaços artísticos associados à cultura branca. A falta de reação dos demais membros do grupo ilustrou a negligência frente a esses problemas. Quando Veatch reportou diretamente à OpenAI, a resposta foi desanimadora, classificando as queixas como “cringe” e afirmando não haver solução imediata.
O documentário apresenta vozes de pesquisadores e teóricos críticos que argumentam que o racismo está tão enraizado na IA que as empresas responsáveis parecem desinteressadas em corrigir esses vieses, perpetuando uma tecnologia que reproduz ideologias odiosas sem provocação explícita.
Disponibilidade e acesso ao documentário
Ghost in the Machine estará disponível para streaming via Kinema entre os dias 26 e 28 de março de 2026. Posteriormente, o filme será exibido na PBS ainda em 2026. Essa produção é essencial para quem deseja compreender o contexto histórico e social que molda as tecnologias de IA e os desafios éticos que elas enfrentam.
Links úteis para aprofundamento
- Streaming Ghost in the Machine via Kinema
- Cadastre-se no The Verge
- Diretrizes da comunidade The Verge
- Trailer oficial no Deadline
Frequently Asked Questions
Como a eugenia vitoriana, uma pseudociência, influenciou diretamente a IA generativa moderna?
Francis Galton, criador da eugenia, desenvolveu técnicas de modelagem multidimensional. Seu protegido, Karl Pearson, utilizou essas bases para criar ferramentas estatísticas como a regressão logística, que são fundamentais para o aprendizado de máquina, a base da IA generativa.
Qual foi a experiência específica que levou Valerie Veatch a investigar a herança racista da IA?
Ao usar o modelo Sora da OpenAI, uma artista negra percebeu que suas imagens eram 'branqueadas', inserindo-a em contextos associados à cultura branca. Essa observação, somada à indiferença de outros, motivou a diretora a aprofundar a investigação.
Por que o termo 'inteligência artificial' foi criado, segundo o documentário?
O termo foi cunhado em 1956 por John McCarthy. A principal motivação por trás de sua criação, conforme revelado no documentário, era atrair investimentos para a área, e não necessariamente descrever a tecnologia em si.
A OpenAI reconheceu o problema de vieses racistas e sexistas em seus modelos?
A resposta da OpenAI às queixas sobre vieses racistas no Sora foi desanimadora. A empresa classificou as reclamações como 'cringe' e indicou que não haveria uma solução imediata, sugerindo pouca prioridade na correção desses problemas.
O documentário 'Ghost in the Machine' foca apenas nos aspectos negativos da IA?
Não, o documentário foca na gênese e nas raízes históricas e intelectuais da IA generativa, evidenciando os problemas intrínsecos. Embora não exalte os benefícios futuros de forma otimista, ele busca uma compreensão crítica do seu funcionamento atual.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
