Tim O’Reilly diz que grandes laboratórios de IA estão lendo o futuro errado

Quem é Tim O’Reilly e por que a opinião dele importa

Tim O’Reilly é um dos nomes mais influentes do software: cunhou o termo “Web 2.0”, fundou a editora O’Reilly Media e defende o open source desde os anos 1990. Em entrevista ao jornalista Steven Levy na newsletter Backchannel, da WIRED, ele afirmou que os grandes laboratórios de IA estão apostando na narrativa errada.

Uma “arquitetura de controle” em vez de participação

Para O’Reilly, as big techs “estão lendo o futuro errado”. Elas teriam construído uma história na qual ter o maior e melhor modelo é a chave do futuro — mas os modelos de fronteira, diz ele, otimizam casos de uso que não são necessariamente os que as pessoas querem.

“O mais importante é ter uma separação limpa entre o modelo, o harness e a aplicação. E agora não estamos conseguindo isso”, criticou. Segundo ele, as empresas “construíram uma arquitetura de controle em vez de uma arquitetura de liberdade e participação” — o que, na visão dele, lhes dá a capacidade de rastrear o usuário.

Open source além dos “pesos abertos”

O’Reilly faz uma distinção importante: quando a maioria fala em “IA open source”, está falando apenas de modelos de pesos abertos. Para ele, o conceito é muito maior. “É sobre a arquitetura do sistema: ela permite participação?”, provocou, relembrando o debate dos anos 1990 sobre licenças.

Ele também relativiza o argumento de segurança usado contra o open source. “Todos os incidentes de cibersegurança que vimos vêm dos modelos de fronteira”, afirmou — sugerindo que os riscos deveriam justificar desacelerar os modelos de fronteira, não restringir os pesos abertos.

Um “fermento de inovação” fora do capital de risco

A visão dele é que o futuro real da IA será “um fermento de inovação que não é financiado por capital de risco”, da mesma forma que a web emergiu de fora do radar dos grandes investidores nos anos 1990. Ele cita projetos como o Pi, um harness agente open source, e o consórcio de memória aberta do seu projeto sem fins lucrativos, o AI Disclosures Project.

A tese de Mark Zuckerberg — de que a Meta vai “prender” o usuário dando a ele a IA que melhor o conhece — deveria, segundo O’Reilly, ser respondida com uma visão open source que permita trocar de modelo, trocar de provedor e manter todo o contexto de que o usuário precisa.

IA como meio de expressão

Na mesma entrevista, O’Reilly comparou a IA a um novo meio criativo, como a escrita, a pintura ou a música. “A ideia de que você não pode escrever com IA parecerá tão curiosa quanto a ideia de que você não pode fazer um bom retrato com uma câmera”, disse — e reconheceu que usa a tecnologia como “parceiro de pensamento” para brainstorming e escrita funcional.