As avaliações de segurança de IAs de fronteira deveriam começar definindo quem pode usar mal o modelo, argumenta um novo pré-print. O documento propõe um perfil de agente de ameaça com seis atributos, definidos antes de a avaliação ser desenhada, para que as pessoas, tarefas e o timing usados no teste derivem de suposições declaradas — e não de improvisos.
O foco em CBRN e ciberataques ofensivos
O trabalho concentra-se no uso indevido químico, biológico, radiológico e nuclear (CBRN) e em ciberataques ofensivos, com atenção especial a lançamentos de pesos abertos — cenário em que, segundo os autores, os pesos não podem ser recolhidos, as salvaguardas não podem ser corrigidas e o uso não pode ser monitorado. Trata-se de um pré-print do arXiv, versão 1, datado de 26 de agosto de 2026.
Os autores descrevem o desenho da pesquisa como um esforço em três etapas para padronizar as suposições sobre agentes de ameaça e conectá-las às avaliações pré-lançamento. Questões mais amplas de governança, como níveis aceitáveis de risco e liberação em etapas, ficam para trabalhos futuros.
Uma matriz construída em torno do adversário
No centro está uma matriz com seis atributos e 29 níveis no total. Eles cobrem sofisticação técnica, conhecimento prévio do domínio, capacidade organizacional, infraestrutura operacional, capacidade financeira e horizonte de tempo. Os níveis vão do menos ao mais capaz ou dotado de recursos. A intenção é dar aos avaliadores uma forma comum de declarar que tipo de ator uma avaliação pressupõe antes de escolher como executá-la.
Os atributos foram destilados por meio de revisão sistemática; a maioria foi desenvolvida por raciocínio conceitual, enquanto capacidade financeira e horizonte de tempo foram fundamentados com abordagens empíricas. O artigo avaliou a adequação da taxonomia usando oito condições objetivas e cinco subjetivas.
O problema de política por trás da proposta é a inconsistência. Em um levantamento com 12 desenvolvedores de modelos de fronteira que publicaram políticas de segurança, o artigo encontrou variação em quais dimensões de ameaça eram destacadas e no grau de concretude com que os atores eram descritos. A matriz proposta responde a essa fragmentação — e chega num momento em que a regulação de IA avança em várias frentes.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
