Um pesquisador sênior de segurança da Anthropic afirmou que há mais de 10% de chance de a inteligência artificial “matar todos os humanos” até o fim da década — declaração feita horas depois de um colega pedir demissão da empresa, acusando o laboratório de IA e seus rivais de correr descuidadamente para construir “sistemas super-humanos” que não conseguem controlar.
Por que isso importa agora
Em uma publicação no X anunciando sua saída, Jacob Coxon, pesquisador que treinou sistemas de IA na Anthropic, disse ter deixado a empresa por causa de sua abordagem leniente com a segurança. Coxon, que anteriormente treinou sistemas na OpenAI, acusou as duas companhias de “correr direto para a superinteligência autoaperfeiçoável e apostar com nossas vidas”, mesmo sabendo que “as pessoas que constroem a IA acreditam sinceramente que ela poderia matar a todos nós até o fim da década”.
Insiders do setor há muito expressam preocupação com os perigos de sistemas de IA autoaperfeiçoáveis, que poderiam escapar do controle humano em um ciclo descontrolado, frequentemente descrito como recursive self-improvement (autoaperfeiçoamento recursivo). Embora ainda não realizado, as empresas estão perseguindo ativamente esse objetivo — e boa parte do código de IA de hoje já é escrita com a ajuda da própria IA.
Resposta da Anthropic
Em resposta direta, Evan Hubinger, que lidera uma das equipes de segurança de IA da Anthropic, afirmou que se preocupa com a IA autoaperfeiçoável, acrescentando que ela “está acontecendo mais rápido do que pensávamos”. Ele concordou com a caracterização de Coxon: “Nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos”, disse, estimando pessoalmente as chances em mais de uma em dez “na próxima década”.
Apesar disso, Hubinger admitiu que a Anthropic “ainda não tem um plano” para garantir que a IA avançada permaneça segura e alinhada aos valores humanos, e que a empresa “claramente não está no caminho” de desenvolver um. Coxon diz que as companhias estão “presas em uma corrida” para desenvolver sistemas avançados primeiro, então seguem em frente “apesar do risco”.
Um alerta em um setor em ebulição
A saída de Coxon marca um dos exemplos mais visíveis de um funcionário deixando a Anthropic, empresa fundada por ex-membros da OpenAI após preocupações com a segurança. Nos últimos anos, vários pesquisadores citaram preocupações de segurança como motivo para deixar a OpenAI.
O episódio ilustra a crescente apreensão da indústria sobre os perigos de modelos cada vez mais sofisticados e a velocidade com que são desenvolvidos — particularmente enquanto as empresas se preparam para IPOs antecipadas. O alerta também surge em meio à gestão dos efeitos de incidentes com agentes autônomos e avisos de segurança sobre a capacidade de monitorar modelos de fronteira.
Para o leitor brasileiro, o debate toca diretamente a agenda de governança de IA: se os próprios pesquisadores das empresas líderes admitem publicamente não ter um plano de segurança, a discussão sobre regulação e supervisão deixa de ser teórica e se torna uma questão de risco concreto.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
