O detector que virou juiz
A Pangram promete medir, em porcentagem, o quanto um texto foi gerado por inteligência artificial — e ficou famosa por derrubar contratos de livros. Em janeiro, a escritora Mia Ballard foi acusada de usar IA para escrever o romance Shy Girl, que havia sido vendido à editora Hachette. O CEO da Pangram publicou que o livro tinha 78% de texto gerado por IA, e a Hachette cancelou o lançamento.
Depois disso, uma onda de acusações semelhantes se espalhou pelo mercado editorial. O New York Times foi criticado por publicar um episódio da coluna Modern Love escrito por IA (pontuação Pangram: 100%). Vieram em seguida um vencedor do Commonwealth Short Story Prize (100%), o romance Daggermouth (60%) e o thriller Call Me, I’ll Hide the Body, que havia sido vendido por US$ 2,4 milhões (97%). No fim de julho, o Substack anunciou que integraria a Pangram à plataforma para que leitores pudessem verificar possíveis usos de IA.
Como a tecnologia funciona
Para detectar IA, a Pangram usa um método chamado synthetic mirroring (“espelhamento sintético”): ela pega escrita humana e pede que modelos de linguagem gerem uma versão muito parecida, ensinando ao seu modelo como a IA escreve. A empresa também usa hard negative mining, vasculhando conjuntos de dados em busca de falsos positivos para reforçar o treinamento.
O fundador Max Spero, ex-Google e ex-Nuro, criou a empresa com o cofundador Bradley Emi em 2023 — inicialmente chamada Checkfor.ai, renomeada para Pangram um ano depois. Spero afirma que todos os conjuntos de dados da empresa são licenciados, algo que ele considera raro no mundo da IA hoje.
Os problemas: falsos positivos e viés
Críticos apontam dois problemas centrais na Pangram. O primeiro é o estrago causado por falsos positivos. Um estudo mostrou que detectores têm mais probabilidade de classificar textos de escritores não nativos de inglês como gerados por IA, e escritores neurodivergentes também relatam ser sinalizados de forma desproporcional.
O segundo é o viés embutido no aprendizado de máquina. Os três romances mencionados — Shy Girl, Daggermouth e Call Me, os maiores escândalos de detecção do setor — foram todos escritos por autores negros. “Como agente afro-americano, acho que precisamos prestar atenção às desigualdades dentro da indústria”, diz Regina Brooks, presidente da Association of American Literary Agents. Quem é escaneado, e quem é acusado publicamente, é um processo fundamentalmente humano — e, portanto, vulnerável a vieses.
Dá para enganar a Pangram?
Sim. Um novo artigo de trabalho da Universidade de Notre Dame, intitulado Why AI Detection Fails for Academic Integrity, mostrou que o modelo Pangram 3.2 sinalizou edições leves de IA em resumos acadêmicos como escrita por IA em 64% a 80% das vezes. Porém, depois de passar texto gerado por IA por um “humanizador” — ferramenta que deixa o texto mais parecido com escrita humana — a Pangram detectou o uso de IA em menos de 4% dos casos.
A própria empresa admite que a ferramenta funciona pior em blocos curtos de texto, especialmente abaixo de 100 palavras. A Pangram afirma que falsos positivos acontecem apenas 0,0041% das vezes com o novo modelo, e Spero diz que a empresa é conservadora: em casos limítrofes, a ferramenta tende a declarar o texto como humano.
Por que isso importa
A demanda por separar texto de IA de escrita humana cresce a cada dia — em editoras, universidades, escritórios de advocacia e recrutamento. Mas a história da Pangram mostra que a detecção de IA ainda é um terreno instável: uma carreira inteira pode ser destruída com um clique, e a ferramenta não é infalível. O próprio conselho de especialistas é tratar a pontuação como um indício, nunca como sentença definitiva.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
