Como uma desaceleração da IA poderia ser realmente aplicada

O consenso cresce — a execução, não

Nunca tantos pesquisadores de IA acreditaram tão firmemente que a tecnologia que desenvolvem pode, um dia, se tornar muito perigosa. O que permanece incerto — mesmo entre a elite técnica — é como manter esses algoritmos sob controle. Com a pressão política e pública crescendo por uma abordagem mais cautelosa, a resposta de como desacelerar a IA segue sendo, na prática, um problema de pesquisa em aberto.

“Precisamos começar a tratar isso como um problema de pesquisa”, defende Raymond Douglas, pesquisador da Universidade de Toronto e coautor do relatório Pacing the Frontier, A Research Agenda. “Nós realmente não entendemos quais são as nossas opções nem o que elas fariam.”

O tom de alerta subiu de temperatura nas últimas semanas, depois que um pesquisador deixou a Anthropic e avisou que, em alguns anos, a IA poderia estar a caminho de exterminar a humanidade. O chefe do laboratório de segurança da Anthropic ecoou a preocupação. Líderes como Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis já se manifestaram a favor de alguma forma de desaceleração ou pausa.

O tema ganha urgência porque as próprias empresas de IA estão usando IA para construir modelos cada vez mais poderosos — o temido loop de autoaperfeiçoamento recursivo (RSI). A Anthropic revelou nesta semana que o Claude já realiza 26% da pesquisa de IA da empresa, ante zero no início de 2026, e que 6% do orçamento de computação foi gasto em segurança.

As principais ideias na mesa

• Avaliadores independentes: dar a terceiros acesso aos modelos para testar capacidades e “red team”. Geoffrey Irving, ex-cientista-chefe do UK AI Security Institute, acredita que inspeções e auditorias poderiam, no curto prazo, efetivamente pausar a IA de fronteira. Críticos como Connor Leahy, da Control AI, rebatem que “avaliadores independentes”, na prática, significam “pagar amigos para olhar meus prompts”.
• Computação confiável: rastrear chips e treinos de larga escala. Uma proposta da RAND (2024) sugere modificar um componente das GPUs para registrar de forma criptograficamente segura as execuções de treino. Outros propõem componentes à prova de adulteração e até “interruptores de desligamento” embutidos que exijam autorização criptográfica remota.
• Tratados vinculantes: colaboração internacional, sobretudo com a China, para “desfazer o crescimento de hardware mutuamente”. Os EUA já tentaram limitar a exportação dos chips mais poderosos da Nvidia, com sucesso limitado.

Medir o que não se entende

Um novo benchmark, o RSI Index (da startup Vals AI), tenta acompanhar o progresso da IA construída por IA, comparando modelos públicos a pesquisas publicadas por cientistas humanos. A projeção: dentro de um ano, a IA poderá executar trabalhos que os próprios pesquisadores não conseguem acompanhar.

Mas a cautela de Douglas resume o dilema: “não tenho certeza de que simplesmente mandar o governo dos EUA desligar tudo vai terminar bem. Sair às pressas com um plano ruim pode acabar pior do que nada”.