O que Hassabis propõe
Em uma publicação no X (antigo Twitter) nesta terça-feira, Demis Hassabis, CEO do Google DeepMind, defendeu a criação de um órgão regulador independente para supervisionar o lançamento de modelos de IA de fronteira. A proposta é modelada na FINRA (Financial Industry Regulatory Authority), a organização autorreguladora do setor financeiro americano.
O texto, intitulado “A Framework for Frontier AI and the Dawning of a New Age”, descreve um “Standards Body” que receberia modelos dos principais laboratórios de IA com até 30 dias de antecedência antes do lançamento para avaliação.
“Inicialmente, os Frontier Labs compartilhariam voluntariamente os modelos com o Standards Body para revisão”, escreve Hassabis. “Uma vez que o protocolo de avaliação se mostre eficaz e robusto, a formalização viria rapidamente, significando que modelos de fronteira precisariam passar pela avaliação para serem implantados no mercado americano.”
Resposta às críticas às avaliações atuais
A proposta surge em reação às avaliações ad hoc realizadas pelo governo americano nos modelos Mythos (Anthropic) e Sol (OpenAI). Essas revisões receberam críticas significativas por falta de expertise técnica e processos decisórios opacos sobre quando um modelo poderia ou não ser lançado.
O órgão proposto por Hassabis seria financiado pela própria indústria de IA, mas operaria de forma independente, com equipe composta por representantes de código aberto e especialistas técnicos do setor. Avaliações específicas poderiam ser terceirizadas para o crescente ecossistema de grupos de segurança em IA.
Oposição política e o caminho da autorregulação
A regulação de IA segue controversa. Sriram Krishnan, assessor de IA da Casa Branca e sócio da a16z, descartou recentemente a possibilidade de um regulador de IA no poder executivo, afirmando que “não haverá uma FDA para IA”.
A abordagem de Hassabis — um órgão autorregulador ao estilo FINRA — tenta contornar essa resistência. “A força desta abordagem é que ela seria tecnicamente focada, ao mesmo tempo que apoiaria a inovação e incentivaria o comportamento responsável”, argumenta. “Ela é projetada para acompanhar a aceleração do campo e se adaptar aos maiores riscos conforme são identificados.”
Por que isso importa
O CEO de um dos três principais laboratórios de IA do mundo pedindo mais regulação, não menos, é um sinal relevante. Hassabis não está sozinho — Sam Altman (OpenAI) e Dario Amodei (Anthropic) já fizeram acenos semelhantes. A diferença agora é o detalhamento da proposta: um modelo concreto de autorregulação que poderia servir de template para outros países, incluindo o Brasil, onde o PL 2338/2023 (marco regulatório de IA) ainda tramita no Congresso.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
