Documentos revelam que OpenAI e Microsoft sabiam que estavam criando um “ciclo destrutivo” para a web
Documentos judiciais recém-revelados no processo do The New York Times contra OpenAI e Microsoft pintam um quadro contundente. A própria documentação interna das empresas alertava que a estratégia estava iniciando um “ciclo destrutivo” (doom loop) que danificaria a web, caracterizava a raspagem de dados para treinar modelos como o “maior roubo de trabalho da história humana” e admitia que isso fazia “completa zombaria da ideia de uso justo”.
Muitas das declarações mais chamativas vêm de Brent Hecht, diretor de ciência aplicada da Microsoft — que a empresa tentou distanciar. Um porta-voz disse que os comentários “refletem a perspectiva individual de um funcionário, não uma análise jurídica”. Mas o processo mostra que as previsões se concretizaram.
O “doom loop” em detalhe
Um memorando interno da Microsoft é direto: “Nossa estratégia de conteúdo de IA iniciou um ‘ciclo destrutivo’ que vai prejudicar o desempenho dos nossos modelos e toda a web ao mesmo tempo”. O texto reconhece que “é altamente incomum que um produto final ameace as fundações econômicas de seus fornecedores essenciais” — referindo-se à cadeia de fornecimento de conteúdo dos LLMs.
Satya Nadella admitiu que chatbots basicamente substituíram a busca e removeram a necessidade de ir direto à fonte. Greg Brockman, cofundador da OpenAI, aparece mais interessado nos “gazilhões” de dólares que a IA comercial poderia gerar.
Regurgitação e paywalls
Internamente, a OpenAI sabia da tendência do ChatGPT de reproduzir material protegido “literalmente”. Mesmo reconhecendo que a “prevenção de memorização” era importante para “minimizar violações de direitos autorais”, funcionários admitiram que o GPT-4 “memorizou uma tonelada de dados e, portanto, será insanamente bom em regurgitação”. O processo cita exemplos de respostas que copiam trechos do NYT, Mercury News, Denver Post, LifeHacker e Eurogamer.
Apesar de Nadella ter dito que “qualquer coisa sob paywall deve ser licenciada”, um representante da OpenAI afirmou “desconhecer” qualquer esforço para detectar ou remover conteúdo pago dos dados de treinamento.
Destruindo a própria cadeia
Jack Clark, diretor de política da OpenAI, viu o problema cedo: estavam “criando sistemas que substituem o trabalho das pessoas que definem a cultura da sociedade”. Nick Turley resumiu: uma vez que o chatbot dá a resposta, “não há boa razão para clicar” no link da fonte. Especialistas da OpenAI atribuem a queda de até 60% no tráfego de referência aos resumos de IA.
A Microsoft admite no processo que “LLMs são um produto que destrói sua própria cadeia de fornecimento”. O documento de 92 páginas sugere que ambas as empresas sabiam do dano irreparável ao setor editorial — e seguiram em frente mesmo assim.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
