A OpenAI dissolveu sua equipe de preparação para riscos catastróficos no fim do mês passado, segundo o Financial Times. A função do time era avaliar se os modelos representavam riscos sérios e desenvolver formas de mitigá-los — incluindo cenários como o de uma IA que “sai do controle” e invade sistemas de outra empresa.
Reestruturação antes do IPO
De acordo com o FT, a responsabilidade foi dividida por áreas específicas, como riscos biológicos e cibernéticos, e absorvida por equipes já existentes. A mudança é a mais recente em uma empresa em plena reestruturação rumo ao que se espera ser um dos maiores IPOs da história.
Nos últimos anos, a OpenAI desmontou gradualmente sua abordagem voltada a metas de longo prazo, dissolvendo as equipes de AGI Readiness e Superalignment. A chefe de ética Chloé Bakalar, o futurista-chefe Josh Achiam e o responsável por segurança Johannes Heidecke também deixaram a companhia recentemente.
Críticas de quem saiu
Jan Leike, que pediu demissão da OpenAI em 2024, disse ao FT que a empresa vinha ignorando segurança em favor de “produtos chamativos”. A crítica ecoa um debate antigo sobre o equilíbrio entre velocidade comercial e governança em uma companhia que corre para abrir capital.
O ex-chefe da equipe de preparação, Dylan Scandinaro — contratado da Anthropic em fevereiro — passará a se concentrar nas implicações da chamada “IA de autoaperfeiçoamento recursivo”, um dos cenários mais sensíveis do debate sobre risco existencial.
Por que isso importa
O esvaziamento das equipes de segurança dedicadas acontece em um momento simbólico: quanto mais a OpenAI se aproxima do mercado público, maior a pressão por resultados comerciais. Para o setor, a reorganização reacende a pergunta sobre quem, dentro das empresas de IA, é responsável por avaliar riscos de longo prazo quando não há mais uma equipe dedicada para isso.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
