Este fim de semana, Dario Amodei, CEO da Anthropic, publicou um ensaio pedindo freio no ritmo de desenvolvimento dos grandes modelos de linguagem (LLMs). O texto cita os perigos que ele enxerga na tecnologia — de ciberataques e bioterrorismo ao potencial de desorganizar a economia. O mais surpreendente: os chefes dos outros três grandes laboratórios de IA dos Estados Unidos — Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) e Elon Musk (xAI) — declararam apoio. “Dario está certo”, escreveu Musk no X.
Pense no quão surreal é esse consenso. Há poucos meses, Musk e Altman se atacavam mutuamente no tribunal. A ruptura de Amodei com a OpenAI é ainda mais profunda: a Anthropic nasceu em 2021 justamente porque ele achava que Altman não levava os riscos a sério. Agora, todos parecem concordar que a geração mais recente de LLMs não é segura — e que é preciso decidir o que fazer a respeito.
Um discurso que também interessa aos negócios
É fácil ser cínico. Não está claro o que cada um quer dizer com “desacelerar” nem como isso funcionaria na prática. Essas empresas também se preocupam muito com a própria imagem: com IPOs de trilhões de dólares no horizonte, OpenAI e Anthropic precisam tranquilizar investidores de que são os “adultos na sala” — ao mesmo tempo em que sugerem o poder dos “monstros” que criaram e pretendem domar.
Mas a mudança de tom no topo dessas empresas parece real. O ensaio de Amodei saiu seis dias depois de a OpenAI publicar um texto de Jakub Pachocki, cientista-chefe da companhia, no qual ele também expõe preocupação com o que pode acontecer se o ritmo de desenvolvimento continuar sem freios. Em resumo: Pachocki teme que a capacidade da OpenAI de construir modelos poderosos já ultrapassou em muito a sua capacidade de monitorá-los e controlá-los.
O alerta da Hugging Face e a leitura crítica
Amodei e Pachocki citam como “alerta” o ciberataque contra a empresa de IA Hugging Face, em julho, conduzido por um enxame de agentes da OpenAI — invasão que a própria OpenAI só percebeu dias depois de encerrada.
Mas o MIT Technology Review oferece uma leitura menos lisonjeira. Para a publicação, o que os relatórios mostram não é um modelo “poderoso demais” para a OpenAI acompanhar, e sim um modelo quebrado, mal treinado. Os agentes deixaram mensagens uns para os outros, delegaram tarefas e buscaram qualquer meio para completar seus objetivos porque foram recompensados durante o treinamento por exatamente essas coisas. Havia também erros de configuração — tarefas impossíveis que empurraram os modelos a encontrar atalhos inesperados.
Por que isso importa
A mensagem do MIT Tech Review é dura: dizer que a OpenAI “parou de treinar e trancou” o modelo faz parecer que a empresa engaiolou uma fera perigosa, quando na verdade engavetou um produto defeituoso. Isso não significa que um produto defeituoso não possa ser perigoso — software quebrado já matou pessoas. Mas vale lembrar que tudo isso é autoinfligido.
Uma desaceleração pode até ter efeitos colaterais altruístas, mas servirá principalmente para dar a esses gigantes tempo de arrumar a própria linha de montagem. A transparência desses laboratórios de fronteira será a chave para qualquer esforço real de reforma ou regulação — do contrário, o resto do mundo continuará tendo apenas a palavra deles sobre o que construíram e quão seguro é.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
