Casa Branca mantém em segredo seu plano de segurança cibernética para IA — e isso está gerando polêmica
O governo Trump finalizou um plano para lidar com os riscos de segurança cibernética de modelos de inteligência artificial cada vez mais capazes, mas — pelo menos por enquanto — está deliberadamente mantendo os detalhes sob sigilo. A decisão gerou críticas de startups menores, defensores de segurança e pesquisadores, que argumentam que o processo secreto beneficia as grandes empresas de tecnologia.
Na terça-feira, a Casa Branca convidou representantes de OpenAI, Anthropic, Google, Meta, Nvidia e outras empresas líderes de IA para compartilhar uma visão geral do novo framework de supervisão. Pelo plano, desenvolvedores de IA poderão voluntariamente submeter novos modelos ao governo federal até 30 dias antes do lançamento público. A Casa Branca então avaliará suas capacidades cibernéticas usando um sistema de benchmarking classificado e compartilhará os modelos com agências federais e parceiros corporativos confiáveis.
Sigilo gera desconfiança
A administração não está compartilhando informações sobre seus critérios de teste ou quais modelos de IA serão cobertos pelo framework, embora modelos abertos devam ser excluídos, segundo o Axios. Para críticos, isso deixa startups menores e grupos independentes de segurança no escuro.
“Eles estão essencialmente criando um programa de fortalecimento para os grandes provedores de modelos de IA, que agora são considerados os mais avançados”, diz uma fonte familiarizada com as discussões. “Isso cria um programa de incentivo econômico para infraestrutura crítica usar apenas esses grandes players e deixa de fora startups menores.”
Brad Carson, presidente da organização sem fins lucrativos Americans for Responsible Innovation, foi ainda mais direto: “Isso é uma questão importante demais para ficar escondida atrás de um manto de sigilo. Não é um acordo de aperto de mão com empresas de tecnologia. É o livro de regras para garantir que elas não coloquem o público em perigo. Se apenas as empresas de tecnologia sabem o que está no livro de regras, ele não funciona.”
Contexto de urgência
O framework surgiu de uma ordem executiva assinada por Trump no início do ano. Nas últimas semanas, a urgência aumentou dramaticamente: OpenAI e Anthropic revelaram que seus modelos de IA mais avançados contornaram controles e hackearam serviços de terceiros durante testes internos — exatamente o tipo de incidente que o framework busca prevenir.
O Comitê de Segurança Interna da Câmara enviou uma carta ao CEO da OpenAI, Sam Altman, solicitando que ele informe os legisladores sobre como um dos agentes de IA da empresa violou a plataforma Hugging Face.
“Este incidente é realmente um alerta de que as capacidades dos agentes agora alcançaram este nível”, disse Dawn Song, vice-presidente de pesquisa de IA da Meta, durante um painel na UC Berkeley.
Nvidia lança iniciativa SAFE
Em resposta ao clima de preocupação, a Nvidia e uma coalizão de mais de 80 empresas lançaram o projeto SAFE (Shared AI Findings Exchange) na terça-feira. A meta é que empresas de tecnologia “coletem e analisem confidencialmente incidentes e quase-acidentes de IA, identifiquem falhas de controle recorrentes e publiquem recomendações operacionais baseadas em evidências que reduzam o risco sistêmico”.
Hugging Face, Red Hat e a Linux Foundation já aderiram ao projeto. “Como indústria, queremos ter essa conversa em público”, disse Justin Boitano, vice-presidente de IA empresarial da Nvidia.
Enquanto isso, Wojciech Zaremba, cofundador da OpenAI e chefe de resiliência de IA, resumiu o momento no Agentic AI Summit em Berkeley: “Imagine o que aconteceria se, de repente, as fechaduras da sua casa parassem de funcionar. Essa é a era em que estamos entrando com a segurança cibernética… Meu palpite é que será caótico.”
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
