Casa Branca divulga plano de testes para IA — mas exclui modelos abertos e mantém detalhes sob sigilo
O governo Trump divulgou nesta terça-feira (5) seu marco regulatório para testes de inteligência artificial, o primeiro esforço coordenado da administração para estabelecer padrões de segurança para sistemas de IA. O documento, porém, foi recebido com ceticismo por especialistas: é considerado vago, exclui modelos de código aberto e mantém a maior parte dos detalhes técnicos sob sigilo.
O plano estabelece que agências federais devem testar sistemas de IA antes de adquiri-los ou implantá-los em contextos governamentais. Mas não define quais testes devem ser aplicados, quem deve conduzi-los ou quais padrões mínimos os sistemas precisam atender para serem considerados seguros.
Modelos abertos ficam de fora
Uma das omissões mais notáveis do documento é a exclusão total dos modelos de código aberto — como Llama (Meta), Mistral e Qwen (Alibaba) — do escopo de testes. O argumento oficial é que modelos abertos, por estarem disponíveis publicamente para download e modificação, não se enquadram na definição de sistemas adquiridos ou contratados pelo governo.
Pesquisadores e organizações da sociedade civil apontam que essa exclusão cria uma lacuna regulatória significativa: se um modelo aberto for usado como base para uma aplicação governamental — algo cada vez mais comum em agências que adaptam LLMs para tarefas específicas — ele não passaria por nenhum teste de segurança obrigatório.
Detalhes “hush-hush”
O documento afirma que os critérios específicos de teste serão definidos por cada agência em consulta com o NIST (Instituto Nacional de Padrões e Tecnologia), mas esses detalhes são classificados como “informações sensíveis de segurança nacional” e não serão divulgados ao público.
Esse nível de sigilo gerou críticas imediatas. “Se o público não sabe quais testes estão sendo aplicados, não há como responsabilizar ninguém quando um sistema falha”, afirmou um pesquisador de segurança de IA que preferiu não se identificar.
O que dizem os especialistas
A comunidade de segurança de IA tem pressionado por um regime de testes mais robusto, inspirado em modelos como o da União Europeia (AI Act) e do Reino Unido (AI Safety Institute). O plano americano, em comparação, é considerado mínimo:
- UE: exige testes de conformidade para sistemas de alto risco, com requisitos públicos e fiscalização independente
- Reino Unido: mantém o AISI, que conduz testes técnicos em modelos de fronteira e publica resultados
- EUA (plano atual): testes são determinados internamente por cada agência, com resultados sigilosos e sem supervisão externa
A exclusão de modelos abertos também contrasta com a posição de outras democracias. O AI Act europeu, por exemplo, não faz distinção entre modelos abertos e fechados para fins de avaliação de risco — se o sistema for usado em contexto de alto risco, ele precisa ser testado, independentemente da licença.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
