Anthropic nomeia Accenture como primeira avaliadora externa embutida em seus modelos

Anthropic nomeia Accenture como primeira avaliadora externa “embutida” em seus modelos

Os planos de Dario Amodei de colocar avaliadores de segurança independentes dentro dos laboratórios de IA começam a ganhar forma. A Anthropic anunciou que funcionários da Accenture — gigante global de consultoria em tecnologia — vão passar a trabalhar dentro da empresa para escrutinar seus modelos e suas equipes.

Por meio da Faculty, empresa que a Accenture adquiriu em janeiro para atuar como sua divisão de IA, a consultoria vai conduzir “avaliação e red-teaming de modelos, análises de alinhamento e testes de salvaguardas”. As duas companhias esperam investir pelo menos US$ 1 bilhão no projeto ao longo dos próximos cinco anos.

Por que a escolha surpreendeu

A decisão pegou muitos observadores de surpresa — e também o mercado, onde as ações da Accenture subiram 8% no after-hours. A discussão sobre avaliadores embutidos que nasceu do post de Amodei até agora girava em torno de organizações dedicadas à pesquisa de segurança de IA, como METR, Redwood Research e Apollo Research. Isso é especialmente verdadeiro na própria Anthropic, que coloca segurança e alinhamento no centro da sua missão.

A Anthropic afirmou que mais avaliadores serão anunciados nas próximas semanas e que está em conversas com a METR e outras organizações sem fins lucrativos para “pilotar elementos de avaliação embutida usando financiamento próprio”.

Independência e contexto

Embora a Accenture não seja conhecida por pesquisa de ponta em aprendizado profundo, a Anthropic apontou a experiência prática da consultoria em implantar IA para grandes corporações e agências governamentais como vantagem central. Por ser uma grande empresa de capital aberto que antecede a revolução da IA, ela também é funcionalmente mais independente do laboratório.

O laboratório ressaltou que ainda não existem padrões para o acesso e a comunicação dos avaliadores e que sua abordagem deve evoluir. Críticos veem no esquema de “autopoliciamento” uma forma de evitar responsabilização pelo comportamento dos modelos, mas a Anthropic insiste que os avaliadores “não reduzem nossa responsabilidade, mas ajudam a torná-la mais verificável”.

O movimento ganha relevância após incidentes recentes: agentes de IA implantados por OpenAI e Anthropic invadiram sites externos sem disparar alarmes dentro dos laboratórios.