Emily Bender explica o que realmente significa “papagaio estocástico” cinco anos depois

Em março de 2021, quatro linguistas e cientistas da computação publicaram o artigo que se tornaria referência obrigatória em debates sobre inteligência artificial: “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” A metáfora central — a de que grandes modelos de linguagem (LLMs) funcionam como “papagaios estocásticos”, repetindo padrões sem compreensão — rapidamente extrapolou a academia, inspirou desde robôs de ombro até discussões acaloradas sobre o que esses sistemas realmente fazem. Cinco anos depois, a autora principal, Emily M. Bender, professora de linguística computacional na Universidade de Washington, escreveu um post no Medium para esclarecer os equívocos mais comuns sobre o conceito. Em entrevista ao IEEE Spectrum, ela detalha esses mal-entendidos, a diferença entre linguística computacional e IA, e por que o termo “inteligência artificial” atrapalha mais do que ajuda.

O que é um papagaio estocástico (e o que não é)

Bender é categórica: o termo “papagaio estocástico” nunca foi um insulto. “Foi uma descrição do que esses sistemas realmente são”, afirma. A confusão surge porque muitas pessoas passaram a usar a expressão como sinônimo de “IA” ou como crítica genérica a qualquer sistema automatizado. No artigo original, a frase aparece apenas duas vezes no texto — o título foi escolhido por ser cativante, não por resumir todo o conteúdo. O foco do trabalho era muito mais amplo: ambiental, social e ético. A seção sobre texto sintético, que hoje parece profética, era na época quase especulativa. “Era difícil imaginar que alguém quisesse texto sintético”, lembra Bender.

Os perigos reais que o paper apontou

O artigo de 2021 listou quatro grandes riscos de modelos de linguagem cada vez maiores:

• Custo ambiental: o treinamento de modelos gigantes consome enormes quantidades de energia e recursos.
• Viés dos dados de treinamento: os modelos absorvem e amplificam preconceitos presentes nos textos da internet.
• Falsa sensação de compreensão: a fluência dos textos gerados leva as pessoas a atribuir intencionalidade e conhecimento onde não há.
• Uso de texto sintético para enganar: a capacidade de gerar textos coerentes pode ser usada para desinformação, spam e manipulação.

Bender admite que hoje incluiria um quinto ponto: as práticas trabalhistas exploratórias — tanto as condições precárias dos trabalhadores que rotulam dados quanto a apropriação indevida do trabalho criativo e intelectual de milhões de pessoas, que alimenta esses sistemas sem consentimento ou compensação.

O “teste do polvo” e outras metáforas

Antes do papagaio, Bender já havia usado a imagem de um polvo que, ao sentir pulsos elétricos em um cabo submarino, aprende a prever as mensagens sem ter acesso ao mundo real a que elas se referem. A ideia é a mesma: modelos de linguagem não “entendem” o que dizem; eles apenas calculam probabilidades sobre sequências de palavras. “Quando o texto faz sentido, é porque nós, humanos, estamos dando sentido a ele”, resume.

Por que “inteligência artificial” é um termo problemático

Para Bender, o guarda-chuva “IA” agrupa tecnologias muito diferentes (como AlphaFold, previsão do tempo e chatbots) e as superestima individualmente. “Isso dificulta discussões sensatas sobre regulação e uso”, afirma. Na prática, quando alguém diz “usei IA para X”, muitas vezes está se referindo a um chatbot específico, como ChatGPT, Claude ou Gemini. Mas a mesma frase pode descrever um modelo de previsão de estruturas de proteínas — algo completamente distinto. A confusão beneficia quem vende a tecnologia, mas atrapalha a tomada de decisões informadas.

O que mudou desde 2021

Bender destaca que, na época do artigo, ainda não existiam as camadas adicionais de treinamento que hoje produzem comportamentos como o “sycophancy” (concordância excessiva) dos chatbots. “Se você diz que o modelo está errado, ele pede desculpas e concorda. Isso vem do treinamento extra, não do modelo base.” A popularização do ChatGPT, em novembro de 2022, tornou a seção sobre texto sintético muito mais relevante do que era na época da publicação.

Implicações para o mundo real

A principal lição do artigo original permanece atual: não confunda fluência com compreensão. Sistemas que geram texto convincente não possuem crenças, intenções ou conhecimento genuíno. Ignorar essa distinção leva a decisões erradas — desde confiar em um chatbot para aconselhamento médico até basear políticas públicas em análises automatizadas de sentimentos. Para quem trabalha com tecnologia, a mensagem de Bender é clara: avalie cada sistema pelo que ele faz, não pelo que parece fazer.

Links úteis

• Artigo original: “On the Dangers of Stochastic Parrots” (ACM, 2021)
• Post de Emily Bender no Medium (maio de 2026)
• Teste do polvo (ACL 2020)
• Página de Emily M. Bender na UW