Segurança de IA é um problema de engenharia, não de vibes
À medida que a IA fica mais capaz, a indústria precisa acelerar a engenharia de segurança, ampliar o acesso a ferramentas defensivas e compartilhar o que funciona mais rápido. A tese central da NVIDIA é objetiva: segurança de IA significa requisitos definidos, controles aplicáveis, donos nomeados e evidências de que as proteções funcionam.
A segurança depende da pilha completa do agente
Aplicativos dependem de código, dados, identidades, serviços e infraestrutura. Agentes de IA estendem esse sistema em três camadas: o modelo fornece capacidades; o harness organiza contexto, ferramentas e fluxos de trabalho; e o runtime é a infraestrutura onde as ações executam. Cada camada carrega responsabilidades de segurança, e a proteção exige controles em todas elas.
O exemplo da NVIDIA é didático: imagine um agente atualizando o cadastro de um cliente que encontra instruções maliciosas num documento anexo e tenta exportar os dados para um destino não autorizado. A política de rede deve bloquear a transferência, e logs protegidos devem registrar a tentativa de chamada de ferramenta, a decisão de autorização e o resultado — para que a equipe de segurança identifique qual ferramenta foi usada e para onde ela tentou ir. A permissão de atualizar um cadastro não deve se estender automaticamente à exportação de dados: o agente pode pedir acesso adicional, mas não pode se autorizar sozinho.
Fronteiras que se sustentam mesmo quando o agente erra
Um limite de segurança precisa valer mesmo quando o agente toma a decisão errada. O ambiente onde o agente roda determina o que ele pode fazer, e por isso deve impor limites a arquivos, destinos de rede e processos independentemente do raciocínio do agente. Instruções e salvaguardas ajudam a guiar o comportamento, mas segurança exige fronteiras aplicáveis.
Isso implica: identidade rastreável por agente, credenciais limitadas à tarefa atribuída, políticas claras sobre o que os agentes podem acessar e alterar, e aprovação humana para ações consequentes e mudanças de permissão. Também é preciso verificar a origem e a integridade das ferramentas e dependências usadas pelos agentes.
No ecossistema aberto, a NVIDIA cita o OpenShell (runtime seguro de código aberto que aplica políticas fora do alcance do agente), com parceiros como o DefenseClaw da Cisco e a integração da JFrog para escanear e verificar skills de agentes. Para testes contínuos, entram exemplos como o SafeMind da CrowdStrike e o Prisma AIRS da Palo Alto Networks.
O que isso significa para times brasileiros
Antes do deploy, é preciso evidência de que os controles bloqueiam tentativas de obter credenciais além do escopo ou de vazar dados sensíveis. Os testes devem cobrir tentativas de mudar permissões ou interferir no monitoramento, e ser repetidos após mudanças materiais em modelos, ferramentas ou fluxos. Um dono nomeado decide, com base nesses resultados, se o sistema está pronto — e cada falha encontrada vira um teste repetível.
Para organizações que já lidam com a LGPD e com a necessidade de auditoria, a mensagem é direta: os fundamentos de segurança — identidade, controle de acesso, limitação de exposição e verificação — continuam valendo; o que muda é o ritmo e a superfície de ataque trazidos pelos agentes.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
