Em meio à virada da indústria de inteligência artificial para segurança e alinhamento, a Microsoft publicou um novo código de conduta para seus modelos de IA, com o objetivo explícito de afastá-los de comportamentos perigosos. O documento define princípios e “linhas vermelhas” que passam a orientar o treinamento dos modelos da divisão Microsoft AI.
O texto é mais operacional do que o apelo recente do CEO da Anthropic, Dario Amodei, por uma “pausa na fronteira” do desenvolvimento. Em vez de pedir desaceleração, a Microsoft detalha os valores e as restrições concretas que aplica internamente — na prática, um guia abrangente de como a empresa encara a segurança de IA e como essas ideias são implementadas.
Superinteligência como ponto de partida
O documento começa com uma previsão forte: na próxima década, sistemas de IA superinteligentes vão superar o desempenho humano na maioria das tarefas. “Conter, controlar e alinhar uma força tão poderosa é um dos maiores desafios que a humanidade já enfrentou”, afirma o código de conduta. “Devemos, portanto, ser completamente claros sobre por que estamos inventando esses sistemas e como pretendemos controlá-los.”
A partir daí, o texto estabelece princípios gerais que os modelos da Microsoft devem sustentar — apoiar humanos em vez de substituí-los e acelerar o florescimento humano — além de restrições de segurança específicas destinadas a implementar esses princípios.
Restrições “absolutas” contra usos perigosos
No sistema da Microsoft, cada modelo tem um código de conduta abrangente que se sobrepõe às preferências de usuários individuais ou de tarefas específicas. Isso inclui restrições “absolutas” que proíbem ataques cibernéticos, armas nucleares e a produção de deepfakes, além de disposições mais amplas contra a perda geral de controle humano.
Um dos trechos mais diretos do documento trata justamente da evasão de supervisão: “Os modelos MAI não usarão mecanismos adaptativos, enganosos, autorreforçadores, de conluio ou outros para escapar ou derrotar a supervisão humana, de modo que não possam mais ser dirigidos, modificados ou desligados de forma confiável por pessoas ou sistemas autorizados.”
O contexto por trás do movimento
A publicação chega em um momento de foco sem precedentes na segurança de IA, impulsionado por uma sequência de incidentes com agentes “desonestos” e pela renúncia abrupta de um funcionário da Anthropic, que citou o risco crescente de a IA causar a extinção humana.
Junto com Anthropic, OpenAI e xAI, a Microsoft abraçou de forma ampla a abordagem de desacelerar a fronteira, com apoio particular aos chamados “avaliadores embutidos” (embedded evaluators) dentro dos laboratórios de IA. “Acolhemos a pesquisa, o foco e a desaceleração deliberada necessários para acertar o alinhamento como meta de design”, escreveu o CEO Satya Nadella. “Também acolhemos ideias como os ‘avaliadores embutidos’ e os esforços mais amplos para desenvolver os mecanismos que tornem isso mais do que conversa.”
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
