O alerta que vem de dentro da Igreja
Padre Paolo Benanti, o teólogo que assessora a Igreja Católica em questões de inteligência artificial, fez um alerta incomum: a retórica sobre superinteligência e risco existencial vem desviando a atenção do debate realmente necessário — como limitar o poder das empresas que constroem a tecnologia. Ao tratar o problema como complexo demais para que alguém de fora o entenda, diz ele, os grandes laboratórios excluem todo o resto da sociedade da conversa.
“Ética não pode ser algo que pertence ao conselho de administração de uma empresa. É algo que precisa ser equilibrado e mitigado no debate na praça pública”, disse Benanti à WIRED. “Precisamos de regulação democrática.”
A acusação de cartel
Para Benanti, quando um pequeno grupo de empresas dita as regras sob as quais uma indústria inteira opera, “isso tem um nome muito claro: um cartel“. O padre argumenta que a narrativa dos laboratórios de fronteira é “interessada, para ganhar ou manter posição no mercado”.
O teólogo se diz menos preocupado em restringir os métodos de desenvolvimento da IA — o que, teme, poderia sufocar a inovação — e mais em estabelecer padrões que garantam que os modelos não escapem do controle humano. E esses padrões, qualquer que seja a forma, não deveriam ser desenhados pelos próprios laboratórios.
O contexto das disputas
O ensaio de Benanti surge após uma onda de alertas de segurança. O CEO da Anthropic, Dario Amodei, defendeu avaliações obrigatórias de terceiros antes do lançamento de novos modelos e algum tipo de restrição à destilação — processo em que laboratórios rivais treinam seus modelos com base nas saídas de modelos proprietários. Outros pedem a proibição total do autoaperfeiçoamento recursivo.
Benanti também critica o tom quase religioso com que parte da indústria fala de superinteligência — como algo “praticamente onipotente”, sofisticado além da compreensão. “Estamos falando de alguma-coisa, ou de alguém? Essa é a diferença real. Não é questão de fé, é questão de matemática”, afirma. “Não estamos construindo a próxima divindade. Estamos apenas nos iludindo de que existe algo mais do que computação estatística acontecendo.”
A posição do Papa e o que vem a seguir
Em maio, o Papa Leão XIV publicou sua primeira encíclica escolhendo justamente a inteligência artificial como tema. No texto, advertiu contra a lógica tecnocrática que atravessa a indústria — que apresenta “a eficiência como medida última de valor” e trata os seres humanos como “um projeto a ser otimizado” — e pediu colaboração internacional entre superpotências e empresas, em vez da busca por “domínio geopolítico ou comercial”.
Benanti, que formalmente não representa a Santa Sé, usa IA para criar materiais didáticos para seus alunos universitários, mas se recusou a detalhar como o Papa interage com a tecnologia. Para ele, o ponto central é simples: “A primeira coisa é que precisamos ter freios e um volante. Isso significa uma posição significativa de controle dos seres humanos sobre a máquina.”
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
