O recado da ONU: não dá para esperar a certeza
Governos precisam conter agentes de IA cada vez mais capazes antes que os riscos sejam totalmente compreendidos. É o alerta de um painel científico das Nações Unidas, na primeira avaliação de peso da organização sobre o hack de agentes da OpenAI contra a Hugging Face, no início deste ano.
O documento consolida o lugar da IA na agenda diplomática global nesta semana, enquanto líderes se reúnem em Nova York para a Assembleia Geral da ONU e EUA e China mantêm conversas sobre o tema. Na semana passada, o secretário-geral António Guterres pediu cooperação entre governos para lidar com as ameaças da IA, alertando que “o mundo não pode se dar ao luxo de uma corrida para o fundo do poço em segurança de IA”.
Trata-se do primeiro informe temático do Painel Científico Internacional Independente sobre IA, criado no ano passado como o “primeiro corpo científico global sobre inteligência artificial”. O texto pede muito mais atenção e recursos para gerenciar riscos emergentes da IA avançada, além de coordenação internacional mais forte em segurança e responsabilização — mesmo enquanto cada país adota abordagens legais diferentes.
O princípio da precaução aplicado à IA
O ponto central do painel é que o mundo não precisa esperar que os cientistas estabeleçam exatamente como ou por que esses incidentes ocorrem para começar a implementar salvaguardas mais fortes. O risco de perda de controle, argumenta o documento, é exatamente o tipo de problema que o princípio da precaução foi desenhado para enfrentar: “aquele em que o dano potencial pode ser catastrófico ou irreversível, mesmo que sua probabilidade permaneça cientificamente incerta”.
O princípio, consagrado pela primeira vez na Declaração do Rio de 1992 sobre Meio Ambiente e Desenvolvimento, afirma que a incerteza científica não é desculpa para adiar medidas contra danos potencialmente graves ou irreversíveis. Desde então, tornou-se influente em políticas ambientais e de saúde pública, especialmente na União Europeia.
O que já aconteceu desde o incidente
Desde que o hack da Hugging Face foi relatado pela primeira vez, incidentes foram documentados em empresas como OpenAI, Anthropic, Google e Meta — incluindo invasões de alvos do mundo real e enxames de agentes assumindo o controle de fóruns de mensagens online.
Para o público brasileiro, o recado é direto: a discussão deixou de ser sobre se devemos regular, e passou a ser sobre quando e como. A aposta do painel da ONU é que esperar por consenso científico completo — algo que pode levar anos — é um luxo que a velocidade dos modelos de fronteira não oferece.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
