Pesquisadores do Google e do Google DeepMind lançaram na quarta-feira (17/09) o DeepMind Institute, uma iniciativa para avançar a conversa em torno da inteligência artificial geral (AGI). O instituto lista o cofundador do DeepMind Shane Legg, o executivo do Google James Manyika e o chairman do Google DeepMind Demis Hassabis como diretores, com Legg atuando como editor-chefe.
A proposta é expor visões divergentes entre Google, DeepMind e a comunidade global de pesquisa sobre a AGI. “Eles nem sempre vão concordar, e provavelmente vão mudar de ideia conforme novos dados e informações surgirem na fronteira em rápida evolução”, diz o anúncio.
Quatro ensaios inaugurais
A coleção de estreia traz quatro ensaios: políticas econômicas para lidar com uma possível disrupção causada pela AGI, preservação do raciocínio de modelo legível por humanos, princípios para o florescimento humano e um framework para avaliar modelos de IA de fronteira.
Um dos ensaios, dos pesquisadores de segurança Rohin Shah e Anca Dragan, argumenta que o encolhimento da janela de transparência da IA — a capacidade de ver e checar o raciocínio passo a passo de um modelo — não é inevitável. Conforme novas arquiteturas tornam os modelos mais difíceis de monitorar, os autores dizem que desenvolvedores e reguladores devem enfrentar os trade-offs de segurança diretamente. Isso poderia significar limitar a “profundidade serial opaca” (a quantidade de computação sequencial que um modelo pode executar sem produzir um rastro de raciocínio legível) ou exigir que os desenvolvedores demonstrem que sistemas menos transparentes continuam monitoráveis.
Um órgão de padrões para IA de fronteira
Em outro ensaio, Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos EUA para avaliar os modelos mais avançados. No framework dele, os desenvolvedores submeteriam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação se mostrasse eficaz, passar nos testes poderia se tornar requisito para implantar modelos de fronteira nos Estados Unidos.
O órgão desenharia as avaliações em consulta com as empresas de IA, mas acabaria desenvolvendo testes independentes e não divulgados — os chamados “held-out tests” — para impedir que laboratórios ajustem seus modelos às avaliações conhecidas. Hassabis disse que o framework poderia ser “apertado se a gravidade da situação exigir”, incluindo potencialmente uma desaceleração coordenada entre os desenvolvedores de fronteira.
Por que isso importa
Os ensaios chegam num momento em que o debate de segurança da IA migra de declarações amplas de preocupação para propostas concretas de divulgação, escrutínio externo e, se as salvaguardas ficarem para trás, desacelerações coordenadas. Essa mudança acelerou nesta semana, quando líderes do setor endossaram elementos do apelo do CEO da Anthropic, Dario Amodei, para “ritmar” o desenvolvimento da IA de fronteira.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
