Garry Tan, da Y Combinator, defende que laboratórios open-weight dos EUA também destilem modelos de fronteira

O CEO da Y Combinator, Garry Tan, quer que os reguladores americanos fiquem fora da discussão sobre destilação de modelos de IA — e vai além: acredita que os próprios laboratórios open-weight dos Estados Unidos deveriam usar a mesma técnica contra os modelos de fronteira americanos.

O que Tan defende

“Eu não faria nada”, disse ele à CNBC no início da semana, em entrevista sobre o uso de técnicas de destilação por laboratórios chineses. “Poderíamos argumentar que deveria existir um regime americano de destilação.”

Em conversa com o TechCrunch, ele explicou o raciocínio: quer que laboratórios americanos menores e open-weight usem as mesmas técnicas de treinamento sobre os modelos de fronteira dos Estados Unidos, criando um conjunto mais robusto de opções de código aberto que não sejam chinesas.

A destilação é o processo em que um modelo é extensivamente consultado por outro para que este aprenda como ele funciona e raciocina. É uma técnica comum — e legítima — usada por laboratórios de IA para treinar novos modelos.

O contraponto da Anthropic

A posição de Tan contrasta com a da Anthropic, que nesta semana divulgou seu segundo relatório acusando laboratórios chineses de conduzir “ataques ilícitos de destilação”, ocultando identidades e recorrendo a fraudes e credenciais roubadas. O CEO da Anthropic, Dario Amodei, já pediu publicamente que os reguladores americanos reprimam a prática.

Tan faz uma ressalva importante: não está defendendo que laboratórios americanos usem credenciais roubadas para destilar. Ele quer que eles sejam livres para “entrar pela porta da frente”.

O argumento em duas frentes

Primeiro, Tan considera um exagero que os laboratórios de IA ditem o que os clientes podem fazer com as informações que seus modelos compartilham. Segundo, ele lembra que os laboratórios proprietários não pediram permissão quando “aspiraram” todo o conhecimento humano possível para treinar seus modelos — incluindo material protegido por direitos autorais ingerido sem autorização.

“Controlar o que usuários e clientes fazem com chamadas de API para modelos de peso fechado parece restritivo”, afirmou. Para ele, o acesso à inteligência treinada em dados públicos amplos deveria ser tratado mais como um bem público do que como algo trancado atrás de termos de serviço restritivos.

O verdadeiro cenário “doomer” da IA, na visão de Tan, não é a competição entre muitos laboratórios, mas a concentração: “O cenário de pesadelo é que haja apenas uma empresa. Ela tem o melhor acesso a capital, os melhores pesquisadores, dispara na frente e, de repente, existe uma empresa monolítica. Isso seria ruim.”