Inteligência artificial, sem ruído.

Comunidade de fanfiction entra em guerra contra IA com detector caseiro para o Claude

Comunidade do AO3 cria detector que identifica fanfictions geradas pelo Claude da Anthropic por meio de artefatos de código. Mas os métodos são questionáveis e qualquer autor pode ser atingido.

Comunidade de fanfiction entra em guerra contra IA com detector caseiro para o Claude

A comunidade de fanfiction está travando uma guerra contra a inteligência artificial — e contra si mesma. Nos últimos dias, um novo movimento surgiu no Archive of Our Own (AO3), o maior repositório de fanfics do mundo, com o objetivo de identificar e expulsar autores que usam ferramentas como o Claude, da Anthropic, para gerar histórias.

O estopim foi uma conta anônima no X, @heatedrivalryai, que em 29 de junho publicou uma “skin” — espécie de extensão para o AO3 — que promete detectar quando um texto foi gerado pelo Claude e colado diretamente na plataforma.

Como funciona o detector

O mecanismo é surpreendentemente simples. Quando um texto gerado pelo Claude é colado diretamente do chatbot para o editor do AO3, ele carrega um artefato de código injetado pela Anthropic: a classe CSS font-claude-response-body. A skin monitora a presença desse marcador e, ao encontrá-lo, transforma todo o fundo da página em vermelho — um alerta visual impossível de ignorar.

A jornalista Jess Weatherbed, do The Verge, testou o sistema e confirmou que ele funciona. “A tela ficou imediatamente vermelha quando testei a skin contra os exemplos publicados”, relatou. O detector só falha se o texto gerado pelo Claude for copiado de outro lugar que não o próprio chatbot — por exemplo, se alguém colar o texto no Bloco de Notas antes de transferi-lo ao AO3, o artefato CSS se perde.

Comunidade dividida

A reação da comunidade de fanfiction foi imediata e polarizada. De um lado, há quem veja o uso de IA generativa como uma traição ao espírito artesanal da fanfiction, um hobby construído sobre paixão e dedicação. Do outro, há quem argumente que ferramentas como Claude e ChatGPT podem ser aliadas criativas, especialmente para autores que escrevem em uma segunda língua ou que usam IA para brainstorming e revisão.

A hostilidade contra IA em comunidades criativas não é nova — escritores, ilustradores e músicos vêm expressando desconforto há anos. Mas a criação de ferramentas de vigilância automatizada como essa skin representa uma escalada: transforma leitores em fiscais e qualquer autor em potencial suspeito.

O problema dos falsos positivos

O maior risco desse tipo de detector é o falso positivo. Se o Claude passar a injetar o marcador em qualquer texto que o usuário copie do aplicativo — incluindo textos escritos pelo próprio usuário — autores legítimos podem ser injustamente acusados. Além disso, a comunidade já vinha usando métodos subjetivos para “farejar” IA, como a presença de travessões (em dashes) ou prosa excessivamente floreada — critérios que podem facilmente atingir escritores humanos com determinados estilos.

Como resume a descrição da matéria no The Verge: “Vibe checks não são evidências irrefutáveis.”

O que está em jogo

O episódio escancara uma tensão que vai muito além da fanfiction. A dificuldade de distinguir conteúdo humano de conteúdo gerado por máquina — e a ansiedade social que isso gera — é um dos grandes desafios éticos da era da IA generativa. Ferramentas de detecção como essa skin do AO3 são sintomas de um problema mais profundo: a ausência de padrões claros, transparentes e justos para identificar e rotular conteúdo produzido com assistência de IA.

Enquanto Anthropic, OpenAI e outras empresas não oferecerem mecanismos robustos de proveniência — como marca d’água criptográfica ou metadados padronizados —, comunidades inteiras continuarão criando suas próprias soluções, com todos os riscos de erro, perseguição e injustiça que isso acarreta.


Descubra mais sobre noticiAI

Assine para receber nossas notícias mais recentes por e-mail.

R
Sobre o autorRedação Noticiai

Equipe editorial dedicada a explicar inteligência artificial com clareza, independência e contexto.