Substack adiciona detector de IA para identificar textos gerados por inteligência artificial

Substack adiciona detector de IA para identificar textos gerados por máquina

O Substack, plataforma de newsletters que se tornou uma das principais arenas do jornalismo independente, anunciou nesta terça-feira (21) uma nova ferramenta que permite aos leitores verificar se o conteúdo que estão lendo foi gerado por inteligência artificial. O recurso é capaz de escanear posts, notas, respostas e comentários, fornecendo uma estimativa de quanto do texto pode ter sido produzido por IA ou com assistência de IA.

A tecnologia é fornecida pela Pangram, uma empresa especializada em detecção de conteúdo gerado por IA, e está sendo lançada na versão web e no aplicativo iOS do Substack, com suporte ao Android previsto para “em breve”. Os leitores podem analisar tanto o conteúdo quanto o autor de qualquer texto na plataforma.

Contexto: o fenômeno do “Claudefishing”

O termo “Claudefishing” — junção de Claude (modelo da Anthropic) e catfishing (criar identidade falsa online) — surgiu para descrever autores que usam IA para produzir conteúdo fingindo ser humanos. O fenômeno se tornou particularmente problemático em plataformas de publicação como o Substack, onde a confiança entre autor e leitor é o principal ativo.

A ferramenta do Substack ataca diretamente esse problema, dando aos leitores uma camada adicional de transparência sobre a autoria do conteúdo que consomem. O recurso aparece como um selo ao lado do texto, indicando a probabilidade de o conteúdo ter sido gerado por IA — similar a um selo de verificação, mas voltado para autenticidade de autoria.

Como funciona

O detector da Pangram analisa padrões linguísticos, estrutura de frases, variação de vocabulário e outros marcadores estatísticos que diferenciam texto humano de texto gerado por modelos de linguagem. A ferramenta não afirma ter 100% de precisão — detectores de IA são notoriamente imperfeitos — mas oferece uma estimativa probabilística que ajuda o leitor a tomar decisões informadas.

A análise pode ser acionada pelo leitor em qualquer post, independentemente de o autor ter optado ou não por participar. Isso garante que a verificação seja independente e não dependa da cooperação do autor — uma escolha de design importante para a credibilidade do sistema.

Impacto no ecossistema de newsletters

O Substack hospeda milhares de publicações independentes que competem por atenção e assinaturas pagas. Em um ambiente onde leitores decidem pagar por newsletters baseados na qualidade e autenticidade do autor, a transparência sobre o uso de IA se torna uma vantagem competitiva — ou uma exigência do mercado.

Autores que escrevem sem IA podem usar o selo de “conteúdo humano verificado” como diferencial de marketing. Por outro lado, publicações que usam IA de forma transparente e declarada podem encontrar na ferramenta uma forma de construir confiança através da honestidade — “sim, usamos IA para pesquisa, mas cada palavra é revisada por humanos”.

Limitações e controvérsias

Detectores de IA generativa têm um histórico problemático. Ferramentas anteriores como GPTZero e o próprio detector da OpenAI frequentemente produzem falsos positivos — classificando texto humano como gerado por IA — especialmente com autores não nativos de inglês ou estilos de escrita formais. A Pangram não está imune a essas limitações.

Há também a questão filosófica: até que ponto um texto produzido com assistência de IA — revisado, editado e contextualizado por um humano — deve ser tratado como “falso”? A linha entre “assistido por IA” e “escrito por humano” está cada vez mais borrada, e selos binários podem simplificar demais uma realidade complexa.