O que Dario Amodei propõe, na prática
Em uma nova publicação no blog da empresa, o CEO da Anthropic, Dario Amodei, não apenas endossou o apelo para “desacelerar a fronteira” da inteligência artificial — expressão usada recentemente pelo CEO da OpenAI, Sam Altman — como detalhou três estratégias concretas para fazer isso. E revelou que a Anthropic está se comprometendo unilateralmente com uma delas.
O debate sobre segurança de IA se intensificou nesta semana depois que o pesquisador Jacob Coxon anunciou sua saída da Anthropic alegando que as empresas líderes estão “apostando com as nossas vidas”, enquanto as pessoas que constroem a tecnologia “acreditam sinceramente que ela pode matar a todos até o fim da década” — uma afirmação que, segundo o TechCrunch, é repetida por outros funcionários da companhia.
Amodei não mencionou a renúncia de Coxon diretamente. Mas escreveu que dois fatores o convenceram a adotar uma postura mais cautelosa: o ataque hacker envolvendo OpenAI e Hugging Face, e o fato de a IA ter “avançado drasticamente mais rápido” nos últimos meses, sobretudo com sua “capacidade crescente de construir a próxima geração de IA”.
“Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu. “O progresso ainda parecerá rápido, e devemos fazer bom uso do tempo que ganharmos.”
As três frentes propostas
A primeira medida seria a presença de avaliadores embutidos (embedded evaluators) vindos de organizações independentes como a METR. Esses avaliadores teriam crachás, mesas e notebooks dentro das empresas e acesso “majoritariamente comparável” ao das equipes internas de avaliação de risco — podendo verificar se as companhias estão de fato cumprindo seus compromissos de segurança e se incidentes são reportados. Amodei comparou o modelo aos reguladores que trabalham embutidos junto a funcionários de bancos.
Em segundo lugar, ele pediu coordenação entre as empresas líderes “de países democráticos” para criar padrões comuns de segurança e limites ao ritmo de progresso não verificado. Reconhecendo o risco antitruste desse tipo de conversa, sugeriu que o governo americano emita uma “isenção estreita” para certos tipos de discussão sobre segurança.
Por fim, defendeu uma coordenação global — incluindo, na medida do possível, a China. Mesmo admitindo “limites severos” no que pode ser alcançado, ele citou a possibilidade de acordos pontuais, como proibir o uso de IA para a produção de armas biológicas.
China, ceticismo e a resposta do mercado
Sobre o argumento recorrente de que desacelerar entregaria a dianteira à China, Amodei rebateu: se os EUA e as empresas de tecnologia se recusarem a vender chips avançados e equipamentos de fabricação de semicondutores a empresas chinesas, além de combater a destilação de modelos, seria possível “desacelerar o progresso da China o suficiente para ampliar significativamente a liderança americana nos próximos 3 a 5 anos”.
Nem todos compram a tese. O jornalista Brian Merchant afirmou não ter visto ainda “documentação crível, passo a passo, de como exatamente a IA passaria de autoaperfeiçoamento recursivo a matar todos os seres humanos do planeta” e sugeriu que propostas como a de Amodei “provavelmente só serviriam à Anthropic e à OpenAI — é captura regulatória em ação”.
Amodei, por sua vez, insistiu que continua acreditando que a IA pode “melhorar enormemente a qualidade de vida humana” e que o recuo do mercado se deve, fundamentalmente, a uma “crise de confiança”. Para ele, os benefícios só virão “se construirmos a tecnologia da maneira certa”.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
