A pesquisadora Timnit Gebru, uma das vozes mais contundentes da área de inteligência artificial, acredita que todo o debate sobre o “fim do mundo” causado pela IA tem um objetivo: desviar a atenção dos danos concretos que a indústria de tecnologia já perpetua hoje. Em entrevista ao boletim Backchannel, da WIRED, ela critica o que chama de “narrativa do deus-máquina” e defende que as ameaças reais estão em outro lugar.
Quem é Timnit Gebru
Gebru ficou conhecida por sua saída altamente divulgada do Google, onde foi contratada em 2018 para avaliar vieses nas ferramentas de IA da empresa. Ela e colegas apresentaram um artigo sobre os perigos dos grandes modelos de linguagem probabilísticos — o célebre “Stochastic Parrots” — que o Google rejeitou. Gebru não permaneceu muito tempo na companhia.
Ela escreve agora um livro sobre a experiência, intitulado “Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist”, com lançamento previsto para o início do próximo ano.
“Por que a matemática?”
Sobre a atenção recente dada à disputa de modelos em problemas de matemática, Gebru questiona a escolha do tema. “Por que eles estão investindo pesado em resolver problemas de matemática? Por que escolhem certas disciplinas?”, pergunta. Para ela, programação, xadrez e matemática foram elevados a uma espécie de prova de inteligência para que as empresas possam dizer “nós resolvemos”.
Ela menciona a Declaração de Leiden, que alerta sobre o uso corporativo da matemática. “Os formuladores de políticas começam a depender de press releases e da mídia popular, quando deveriam falar com os próprios matemáticos”, afirma. O tempo entre uma empresa anunciar um avanço e políticos proporem projetos de lei, segundo ela, ficou curto demais.
O que é realmente existencial
Para Gebru, o risco existencial não está num modelo que “decide” destruir a humanidade. “O que é realmente existencial é a IA alimentando armas autônomas, máquinas de matar, que já estão sendo usadas em guerra”, diz. Ela cita ainda a catástrofe climática, agravada pelo que as empresas de tecnologia constroem, e o uso da IA como desculpa para demitir trabalhadores.
Usando uma analogia de ponte, ela questiona: quando uma ponte desaba, ninguém pergunta se ela era “ética” ou “senciente” — pergunta-se quem a construiu tão frágil. “Quando você pergunta sobre a ponte desabando sozinha, você perdeu o fio da meada.”
Por que isso importa
A entrevista chega num momento em que a discussão sobre segurança de IA se polarizou entre alarmistas e céticos. Gebru oferece uma terceira via: em vez de discutir cenários hipotéticos de extinção, concentrar esforços nos danos mensuráveis e atuais — vieses, vigilância, desinformação, armas autônomas e concentração de poder. Para o público brasileiro, o recado é direto: o debate mais urgente não é sobre um futuro distópico, mas sobre o que a tecnologia já está fazendo com emprego, privacidade e democracia agora.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
