Por que ainda não comprei a tese do autoaperfeiçoamento recursivo da IA

Estamos em uma era em que um punhado de organizações — sobretudo os laboratórios de fronteira, em especial OpenAI e Anthropic — usam milhares de agentes de IA concorrentes para melhorar processos e produção. Nas últimas semanas, tenho pensado no que significa, para tantos funcionários dessas empresas, atualizar rapidamente as expectativas sobre o ritmo do progresso da IA e os riscos associados.

A cultura que amplifica o medo

Uma visão central que defendo é que os laboratórios de fronteira e a cultura competitiva do cenário de IA de San Francisco criam um ambiente que amplifica qualquer preocupação com IA. Isso tem um lado positivo — mais consciência pública sobre o tema, já que o medo vende —, mas exagerar prazos ou a gravidade dos riscos gera efeitos de segunda ordem negativos. Lembro dos debates acalorados sobre segurança de IA em 2023 e 2024, e dos riscos primários previstos que simplesmente não chegaram nos prazos estimados.

O corpo de funcionários desses dois laboratórios já estava ansioso com os riscos e o ritmo do progresso há um ano, especialmente quando os agentes ganharam forte ajuste produto-mercado no início de 2026. Essa pré-condição cultural, exposta à realidade de que milhares de agentes trabalharão de forma produtiva dentro do seu negócio, só aumenta a ansiedade. O salto dessa ansiedade — e de incidentes como o do OpenAI–Hugging Face — para riscos existenciais começa a parecer um ato de fé.

Por que não compro o “singularidade já”

Uma boa parte da comunidade de segurança de IA está, implícita ou explicitamente, se orientando para futuros em que uma explosão de inteligência acontece em poucos anos. Minha expectativa padrão (na ausência de uma pausa extensa) é que algo parecido vai ocorrer: eles estarão direcionalmente corretos em relação às expectativas de quase qualquer pessoa fora da comunidade, mas factualmente errados. Especificamente, não teremos superinteligência nos próximos oito anos, mas as coisas ainda estarão se movendo tão rápido que parecerá que quem defendia prazos curtos estava certo.

Quero registrar isso agora porque o nível de adesão ao discurso de “singularidade iminente” está ficando bem intenso. Essa visão se alinha ao cenário alternativo que descrevi ao autoaperfeiçoamento recursivo (RSI) verdadeiro, que chamei de autoaperfeiçoamento com perdas. Em resumo:

• A pesquisa automatizável é estreita demais para gerar uma aceleração massiva de progresso diante dos custos exponenciais das leis de escala;
• Os retornos decrescentes de mais agentes de IA em paralelo são reais;
• Gargalos de recursos e política são fatores importantes na construção de LLMs fortes — e a IA pode fazer muito menos para acelerar isso.

O que equilibra essa visão

Fico então entre o aumento latente da temperatura cultural e a possibilidade de que os laboratórios tenham visto avanços específicos genuinamente assustadores que ainda não são públicos. Minha expectativa é que a maior parte da preocupação atual venha da primeira hipótese — a temperatura cultural —, não de uma descoberta oculta. Para quem acompanha o tema do Brasil, o recado é pragmático: o progresso é real e acelerado, mas o calendário do “fim do mundo pela IA” merece tanto ceticismo quanto o do hype de marketing.