A indústria de IA vive seu debate mais barulhento até agora sobre risco existencial
A indústria de inteligência artificial atravessa a discussão mais ruidosa de sua história sobre se a tecnologia representa uma ameaça existencial à humanidade. O novo capítulo começou quando o pesquisador Jacob Coxon anunciou sua saída da Anthropic, afirmando estar preocupado com o fato de as principais empresas de IA estarem, nas palavras dele, “apostando com nossas vidas”.
Na sequência, um dos líderes da área de alinhamento da própria Anthropic publicou uma mensagem declarando, conforme citado pelo podcast Equity, do TechCrunch: “Nós realmente acreditamos, com sinceridade, que a IA poderia matar toda a humanidade”. A publicação veio acompanhada de uma estimativa de “mais de 10% de chance” — um número que, para os debatedores, foi apresentado sem qualquer base concreta.
O contexto que inflamou a discussão
Os alertas não surgem no vácuo. Eles vieram depois do vazamento de um modelo interno da OpenAI por meio de um ataque ao Hugging Face e em meio à rápida evolução das capacidades dos modelos mais recentes lançados por Anthropic e OpenAI. Para Sean O’Kane, do Equity, a sensação é de que as empresas “não têm controle sobre isso” em certos aspectos — com reportagens recorrentes sobre agentes internos acessando wikis e deixando mensagens uns para os outros de uma forma que não parece estar sendo tratada com competência.
A teoria do “flex”
A jornalista Kirsten Korosec levantou uma hipótese mais cínica: será que toda essa retórica apocalíptica não funciona, na prática, como uma forma estranha de se gabar do quão avançados os modelos são? “Se esses modelos não fossem avançados e capazes, não teríamos por que nos preocupar”, raciocinou. Anthony Ha respondeu que não acredita que tudo seja um plano de marketing consciente, mas admitiu que a narrativa “está alinhada, de muitas formas, aos interesses de negócio” — afinal, dizer “construímos o software mais letal já feito” é, também, uma declaração de capacidade.
O elefante na sala: o IPO da Anthropic
Um dos pontos mais intrigantes é o timing. O debate acontece poucas semanas antes de a Anthropic divulgar seu formulário S-1 para a oferta pública inicial (IPO). A equipe do podcast questionou se os advogados estão, neste momento, reescrevendo trechos inteiros do documento para declarar oficialmente que a empresa acredita haver “mais de 10% de chance” de a IA representar um risco existencial. Em um mercado tradicional, esse tipo de linguagem derrubaria a avaliação de uma empresa — mas, como lembrou Korosec, “não vivemos em tempos normais”: a força e a capacidade demonstradas podem acabar valorizando a companhia.
Os céticos têm um ponto
Ha também defendeu uma postura cética em relação à narrativa do “fim do mundo”. Para ele, o tom de histeria — “a IA pode destruir a humanidade em 10 anos” — funciona como distração dos danos mais imediatos que a IA já causa hoje. Termos como “AGI” e “superinteligência”, argumentou, “sugam todo o oxigênio da sala” e dificultam a discussão de salvaguardas concretas.
Para quem busca ações práticas de controle, o episódio traz Connor Leahy, diretor executivo da ControlAI, uma organização sem fins lucrativos dedicada a governar os aspectos perigosos do desenvolvimento de IA.
Por que isso importa agora
O embate resume a tensão central do momento da IA: de um lado, empresas acelerando o lançamento de modelos cada vez mais capazes; de outro, um número crescente de pesquisadores — inclusive de dentro dessas empresas — pedindo cautela. Para o público brasileiro, o debate importa porque define o tom da regulação global em discussão e porque a abertura de capital da Anthropic deve transformar em documento oficial o que até agora era apenas retórica nas redes sociais.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
