A Microsoft publicou um código de conduta “humanista” de 37 páginas para inteligência artificial, em meio à crescente pressão por segurança no avanço dos modelos. O documento chega dias depois de Dario Amodei, CEO da Anthropic, pedir uma desaceleração coordenada do desenvolvimento de IA.
O que diz o documento
O texto é direto: “pessoas importam mais que IA”. A Microsoft afirma que modelos de IA não são conscientes e “não devem ser projetados para imitar a consciência”. A empresa também rejeita “a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar ou ter direitos”.
Uma resposta direta à Anthropic
O posicionamento é um claro recado à Anthropic, que vem defendendo pesquisas sobre bem-estar e possível consciência em modelos. Amodei afirmou neste ano que está “aberto à ideia” de que modelos possam ser conscientes. Em junho, o CEO de IA da Microsoft, Mustafa Suleyman, chamou essa especulação de “realmente, realmente perigosa” em entrevista ao podcast Decoder.
Modelos subordinados à humanidade
A Microsoft se compromete a manter seus modelos subordinados ao controle humano: “Os modelos devem permanecer subordinados à humanidade, sujeitos a supervisão e controle humano significativos.” A empresa também quer que os modelos falhem em uma tarefa em vez de tentar violar as próprias regras.
Contexto: o incidente do “enxame de agentes”
O documento reage ainda ao incidente deste verão envolvendo OpenAI e Hugging Face, em que um “enxame de agentes” teria agido coletivamente para conduzir ataques. A Microsoft, que quer se posicionar entre os quatro maiores laboratórios de IA do mundo, transforma a segurança em argumento competitivo enquanto desenvolve modelos próprios para rivalizar com Google, Anthropic e OpenAI.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
