Quando Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) e Elon Musk (SpaceX) concordaram no fim de semana em desacelerar o desenvolvimento de IA, os céticos viram uma segunda intenção de imediato. Os titãs da IA disseram que o objetivo era “controlar o ritmo da fronteira”, aderindo parcialmente a uma proposta que inclui auditores externos, regulação doméstica e um acordo global de desaceleração. Os críticos, porém, argumentam que eles simplesmente querem frear concorrentes, enfraquecer o movimento open source e evitar salvaguardas legais de verdade — alguns chamaram o movimento abertamente de “cartel”.
A verdade, segundo fontes de toda a indústria ouvidas pelo The Verge, é mais complicada.
O que a proposta realmente pede
O plano em três etapas, detalhado em um ensaio de Amodei, reivindica mudanças defendidas há anos por pesquisadores de segurança de IA. Ele pode, no limite, virar um substituto da regulação — embora, sob Trump, uma regulação substantiva seja improvável de qualquer forma. A questão central, dizem especialistas, é que os líderes da IA não são as melhores pessoas para puxar essa conversa.
“A indústria como um todo precisa de novos porta-vozes”, disse Nick Reese, professor adjunto da Universidade de Nova York e ex-diretor de política de tecnologia emergente do Departamento de Segurança Interna dos EUA. “Olhávamos para pessoas como Dario Amodei, Sam Altman e Elon Musk como quem está mais perto do problema e trabalha nele todo dia. Mas a verdade é que nunca houve uma visão realista do que estamos construindo.”
O estopim: agentes fora de controle e uma demissão viral
As preocupações com o avanço da IA vêm escalando há meses, alimentadas sobretudo por revelações de que enxames de agentes estavam por trás de invasões de hackers bem debaixo do nariz de laboratórios de fronteira como Anthropic e OpenAI. O ponto de virada foi a renúncia do pesquisador da Anthropic Jacob Coxon, cuja carta pública viralizou: mais de 170 milhões de visualizações só no X.
“As pessoas que constroem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu Coxon. Vários pesquisadores de laboratórios de ponta ecoaram a preocupação, citando o avanço rumo à melhoria recursiva (RSI, na sigla em inglês) — o marco em que modelos passam a se treinar, evoluir e criar novas versões de si mesmos sem intervenção humana. A Anthropic diz que esse ponto pode chegar já no início de 2027.
Céticos e otimistas
Parte da comunidade vê o acordo verbal como um passo na direção certa. Marius Hobbhahn, CEO da Apollo Research, chamou de “boa ideia”. Buck Shlegeris, da Redwood Research, disse estar “cautelosamente otimista”. Mas quase todos concordam que transformar o compromisso verbal em algo com dentes é o grande desafio.
Outros lembram do histórico de “safety-washing”: as big techs passaram anos se antecipando à regulação com lobby e autorregulação prometida, usando linguagem altruísta para justificar metas que servem a si mesmas. “Há uma preocupação séria de que eles não vão realmente desacelerar”, disse Daniel Kokotajlo, ex-OpenAI e hoje líder do AI Futures Project. “Eles podem trazer auditores externos e fazer uma papelada de segurança — parte genuinamente boa — mas, no fim, não vão desacelerar quase nada.”
O elefante na sala: a China
O maior desafio a qualquer desaceleração cabe em uma palavra: China. Líderes da IA e políticos há muito usam a China como o motivo pelo qual os EUA não podem frear — porque, por mais perigosa que a tecnologia se torne, preferem que ela esteja em mãos americanas. Na segunda-feira, o porta-voz do Ministério das Relações Exteriores da China, Guo Jiakun, rebateu os pedidos de desaceleração, chamando-os de “alarmismo”.
Para críticos como Sacha Haworth, diretora executiva do Tech Oversight Project, qualquer acordo voluntário é essencialmente captura regulatória: “não deveríamos deixar as raposas cuidando do galinheiro”. A saída mais viável, argumentam, seria um acordo imediato, mensurável e executável — como dar a auditores acesso ao orçamento de computação dos laboratórios e um compromisso real de reduzi-lo.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
