Hinton, Fei-Fei Li e Andrew Ng defendem IA aberta em meio à pressão por segurança

Em um momento em que os modelos de código aberto viraram um ponto sensível para a indústria, três dos pesquisadores mais respeitados do mundo — o vencedor do Nobel Geoffrey Hinton, a CEO da World Labs Fei-Fei Li e o cofundador da Coursera Andrew Ng — subiram ao palco da conferência Ai4, em Las Vegas, para defender a abertura da inteligência artificial.

O receio de deixar a IA nas mãos de poucos

Embora tenham divergido sobre táticas, os três fizeram um apelo conjunto para manter a IA aberta. A preocupação central é permitir que um punhado de grandes empresas controle o ritmo do progresso. Quando poucas companhias controlam o acesso a uma tecnologia — como Apple e Google fazem com os sistemas operacionais móveis —, a inovação pode desacelerar e quem controla as plataformas passa a influenciar o que é construído sobre elas.

“Não quero que existam guardiões. Isso limita como todos nós acessamos a IA”, disse Ng. Para ele, a saída passa por manter múltiplos fornecedores, com modelos e empresas competindo entre si, em vez de deixar um pequeno grupo dominar o campo.

Open-source é diferente de open-weight, lembra Hinton

Hinton traçou uma distinção importante entre software open-source — em que o código pode ser inspecionado e modificado — e modelos open-weight, que liberam os parâmetros de um modelo já treinado. “Open source é ótimo. Você mostra o código e muita gente olha e diz: ‘há um bug aqui’. Open weights significa treinar um modelo grande e entregar os pesos”, explicou.

O pesquisador admitiu que era contra os pesos abertos por facilitar que modelos fundamentais caros sejam reajustados com pouco dinheiro para fins maliciosos, como ataques cibernéticos. Mas reconheceu que “essa batalha já foi perdida”: os modelos abertos são uma realidade permanente e a barreira do custo de treinamento desapareceu.

China, soft power e a visão de Fei-Fei Li

Ng advertiu que, se os modelos open-weight chineses ganharem adoção em massa na Ásia, na África e no mundo em desenvolvimento, poderão influenciar como bilhões de pessoas encontram ideias sobre democracia, liberdade e direitos humanos. “A IA é uma tremenda fonte de soft power”, afirmou.

Fei-Fei Li rejeitou a falsa dicotomia entre abertura total e fechamento total. Usando a física nuclear como exemplo — artigos científicos publicados abertamente, urânio regulado e trabalho de laboratório em um ponto intermediário —, ela defendeu que diferentes camadas do ecossistema podem operar com níveis distintos de abertura.

“Precisamos de níveis de abertura tanto na descoberta científica, na educação e na parceria global quanto em modelos de negócio lucrativos. Mas também aceitaremos sistemas fechados. Esse debate, no nível simplista de ‘só podemos tolerar um’, é um falso debate”, concluiu.

Regulação como ponto de consenso

Apesar das divergências, todos concordaram que algum nível de regulação será necessário. “O que queremos é desenvolver a IA em uma direção que ajude as pessoas, e a regulação vai nos ajudar nisso. Não dá para deixar que Elon Musk e Mark Zuckerberg decidam como a IA deve ser feita”, disse Hinton.