Nas últimas semanas, líderes de algumas das maiores empresas de IA alertaram que a própria tecnologia que desenvolvem é perigosa. O CEO da Anthropic, Dario Amodei, argumentou que a IA carrega risco sério e que o progresso deveria ser desacelerado. O CEO da OpenAI, Sam Altman, respondeu no X: “Concordo com Dario que precisamos controlar o ritmo da fronteira.”
Um alerta que vem de dentro
Essas declarações vieram poucos dias depois de o pesquisador Jacob Coxon anunciar sua saída da Anthropic, acusando a empresa — e a OpenAI, onde também trabalhou — de não agir com responsabilidade. “As pessoas que constroem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu no X. Outro funcionário da Anthropic, Evan Hubinger, concordou publicamente: “Nós realmente acreditamos sinceramente que a IA pode matar todos os humanos. Eu pessoalmente acho que é mais de 10% na próxima década.”
O caminho das armas biológicas
Um dos cenários temidos é a IA auxiliar no projeto, criação e liberação de algum tipo de arma biológica — um vírus altamente letal direcionado por perfil genético, um fungo que destrói lavouras e causa insegurança alimentar, ou uma toxina sem gosto e sem odor que poderia ser introduzida no abastecimento de água sem ser detectada.
Em um relatório publicado na semana passada, a Anthropic reconheceu que já houve tentativas de usar seus modelos para explorar formas de tornar o vírus chikungunya mais transmissível, criar uma versão da gripe aviária mais perigosa para humanos e construir um “atlas de peptídeos de toxinas de veneno”, entre outros usos.
Nem todos concordam sobre o tamanho do risco
Vale registrar que nem toda a comunidade científica concorda com esse nível de alarme. Em um briefing recente, biólogos do Imperial College London argumentaram que as ferramentas de IA simplesmente não são boas o suficiente para desenvolver armas biológicas por completo, e que testar novos patógenos exige trabalho humano difícil e demorado. Wendy Barclay, professora de doenças infecciosas do Imperial, lembrou que o maior risco atual de pandemia não vem de uma arma biológica, mas de patógenos que já circulam — como o H5N1, que já matou milhões de aves e se espalhou pelo gado leiteiro dos EUA.
Independentemente da probabilidade exata, o consenso emergente é que países deveriam fortalecer sistemas de saúde, preparar antídotos para toxinas conhecidas e estocar medicamentos. “Precisamos estar preparados”, resume a especialista Sabra, que pensa no horizonte de cinco a dez anos.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
