Uma das teorias mais populares sobre como uma IA desonesta acabaria com a humanidade são as armas biológicas. No último mês, pesquisadores de Stanford e do Arc Institute mostraram que a IA consegue desenhar novos genomas virais, e a Anthropic divulgou um relatório citando tentativas de usar o Claude de formas que poderiam apoiar o desenvolvimento de bioweapons. Apesar do alarme, muitos cientistas dizem que o risco é baixo na lista de preocupações do mundo.
Informação não é o gargalo
Para David Bellamy, pesquisador do Institute of Foundation Models, a IA não representa uma ameaça fundamentalmente nova. Antes dos grandes modelos de linguagem, a própria internet, os periódicos científicos de acesso aberto e ferramentas como o Google Tradutor já facilitavam o acesso a protocolos de laboratório. “A IA é essencialmente uma ferramenta que ajuda bons atores e também ameaças a percorrer informações mais rápido”, diz ele. “Mas essas capacidades não são realmente o gargalo na produção de bioweapons.”
O verdadeiro gargalo, segundo os cientistas, é o processo físico: montar um vírus do zero, obter os fragmentos genéticos, verificar que ele infecta humanos e é transmissível — tarefas que exigem conhecimento especializado e recursos materiais, não apenas informação.
Humanos como barreira
Jason Kelly, CEO da Ginkgo Bioworks, que rodou um projeto com a OpenAI usando o GPT-5 em laboratório, é categórico: “a IA não conseguiu assumir o laboratório”, em parte porque os humanos dentro dele podiam simplesmente recusar as substâncias e equipamentos solicitados pelo modelo. O imunologista Derya Unutmaz acrescenta que, mesmo que uma superinteligência maliciosa soltasse um supervirus, cientistas usariam outros sistemas de IA para desenvolver rapidamente uma vacina.
O risco real e o que fazer
Especialistas concordam que o foco deveria estar em proteções concretas: leis que exijam triagem de clientes por empresas de DNA sintético, protocolos de compartilhamento de dados entre empresas de IA e governos, e vigilância global de surtos. Para Unutmaz, há uma preocupação ainda mais urgente: as conversas sobre o fim do mundo desviam a atenção de como sistemas avançados podem acelerar vacinas e outras descobertas médicas.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
