Pesquisadores extraem “raciocínio oculto” de modelos de IA de fronteira
Cientistas da computação descobriram uma técnica para extrair o “pensamento” oculto que modelos de IA de fronteira realizam ao resolver problemas complexos — e o que encontraram tem implicações sérias para a segurança e a propriedade intelectual.
Os achados fornecem evidências — embora não provas conclusivas — de que certos modelos chineses podem ter sido treinados por “destilação” de informações de raciocínio de modelos americanos. A similaridade entre os padrões de pensamento é notável demais para ser coincidência, segundo os pesquisadores.
“Todos os principais provedores de modelos de fronteira que testamos compartilham essa vulnerabilidade”, afirma Alexander Panfilov, cientista da computação da Universidade de Tübingen, na Alemanha. “Ela pode levar ao vazamento de informações pessoais e permitir ataques de destilação de raciocínio em larga escala.”
Kimi K3, Claude e GPT: similaridades suspeitas
O estudo, conduzido por pesquisadores da Universidade de Tübingen, do Instituto Max Planck, do instituto de segurança de IA MATS Research e da empresa de segurança Snyk, identificou o mesmo problema em modelos de fronteira da OpenAI, Anthropic e Google acessados via API.
No artigo que apresenta o trabalho, os pesquisadores mostram que o modelo chinês de código aberto Kimi K3, da Moonshot AI, produz resultados notavelmente similares aos traços de raciocínio ocultos do Claude Opus 4.8 e do GPT 5.6 Sol para determinados prompts. Em contraste, outros dois modelos de código aberto — o chinês DeepSeek e o americano Inkling, da Thinking Machines — não exibiram esse tipo de similaridade.
A Moonshot AI não respondeu aos pedidos de comentário até o fechamento da matéria.
O que a destilação pode extrair
A destilação é uma técnica bem estabelecida para copiar eficientemente as capacidades de modelos existentes para novos — e é especialmente comum no desenvolvimento de modelos de código aberto. Mas, ultimamente, tornou-se um tema controverso.
Em fevereiro, a OpenAI informou a legisladores americanos que a DeepSeek parecia ter copiado um de seus modelos para construir o R1. Em junho, a Anthropic declarou que a Alibaba havia destilado sistematicamente seus modelos para construir o Qwen.
O novo método torna possível extrair mais informações de modelos fechados do que se imaginava. Modelos avançados resolvem problemas complexos quebrando-os em partes constituintes, analisadas em sequência em uma espécie de “cadeia de pensamento” artificial. As empresas geralmente escondem esses traços de raciocínio, mas a nova técnica permite extraí-los.
Além da destilação: senhas e chaves de API expostas
Os pesquisadores também demonstraram que o método poderia ser usado para recuperar informações pessoais como senhas e chaves de API do raciocínio interno dos modelos. Essa vulnerabilidade específica já foi corrigida, mas o fato de ter existido levanta questões sobre quantas outras fragilidades similares permanecem ocultas nos sistemas de IA que usamos diariamente.
O que isso significa
Para o ecossistema brasileiro de IA, onde muitas startups e empresas dependem de APIs de modelos de fronteira para construir produtos, a descoberta serve como alerta. Informações proprietárias processadas por esses modelos podem não estar tão protegidas quanto se supunha. A comunidade de segurança de IA agora corre para entender a extensão completa do problema — e para desenvolver defesas antes que técnicas mais sofisticadas de extração surjam.
Não há indicação de que empresas chinesas tenham usado especificamente esta técnica para destilar modelos americanos. Mas Panfilov e seus colaboradores afirmam que seu método tornaria possível extrair mais informações de modelos fechados do que se imaginava anteriormente. A corrida entre extração e proteção está apenas começando.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
