O paradoxo da capacidade
Modelos de linguagem de grande porte (LLMs) estão sendo implantados em escala em sistemas reais e consequentes: mercados financeiros, moderação de conteúdo e contratação. Um novo estudo mostra que melhorar a capacidade de um modelo individual pode, na verdade, degradar os resultados no nível do sistema.
A hipótese central é que treinamento e arquiteturas compartilhados fazem com que LLMs mais capazes se comportem de forma mais parecida entre si, criando ações correlacionadas que não se diversificam. Os pesquisadores desenvolveram um framework geral mostrando como essa correlação cria um piso de risco não diversificável — e testaram as previsões em mercados financeiros usando uma simulação baseada em agentes com traders de IA de diferentes níveis de capacidade.
Três descobertas principais
Os resultados apontam três padrões. Primeiro, LLMs de fronteira exibem comportamento significativamente correlacionado, e essa correlação aumenta com a capacidade do modelo. Segundo, quando o raciocínio compartilhado é preciso, aumentar a participação de agentes reduz o risco no nível do mercado. Terceiro — e mais preocupante — quando os agentes compartilham um ambiente de desinformação comum, esse mesmo comportamento correlacionado vira um passivo.
Por que isso importa agora
A conclusão identifica o que os autores chamam de “paradoxo da capacidade”: melhorar modelos individuais não produz necessariamente melhores resultados sistêmicos. Para instituições financeiras brasileiras que testam agentes de IA em negociação, investimento e análise de risco, a mensagem é clara — adicionar mais agentes baseados nos mesmos modelos de fronteira não elimina risco por diversificação; pode concentrá-lo.
Se a mesma dinâmica surge em outros domínios — como moderação de conteúdo ou recrutamento — permanece uma questão empírica em aberto, segundo os próprios autores.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
