Por que o Claude vai ganhar marca d’água agora
A Anthropic publicou nesta sexta-feira (15) uma postagem em seu blog respondendo às perguntas mais básicas sobre como pretende inserir marcas d’água nos textos gerados pelo Claude, seu assistente de IA. A medida foi revelada no início da semana e atende a uma exigência do Código de Transparência da Lei de IA da União Europeia, que obriga as empresas de IA a usar sistemas capazes de identificar conteúdo gerado por máquina.
Desde o anúncio, usuários do Claude têm debatido a decisão. No Reddit, um usuário classificou a mudança como “uma conspiração contra usuários inocentes”, enquanto outro argumentou que “a única razão para não querer isso é mentir para as pessoas”. Segundo o Business Insider, “dezenas” de usuários no X chegaram a afirmar que cancelaram suas assinaturas do Claude.
Como a marca d’água funciona na prática
A postagem da Anthropic começa com uma visão geral do conceito: ao fazer “escolhas de baixo risco” — como decidir entre as palavras “nublado” e “cinzento” para descrever o tempo — o Claude pode criar um padrão em suas respostas que é “indetectável para o leitor, mas detectável para quem tem a chave que o codifica”.
“A marca d’água não afeta a qualidade da saída do Claude”, afirmou a empresa. “Para um leitor, uma resposta com marca d’água é indistinguível de uma sem marca.”
SynthID-Text e API de detecção
Mais especificamente, a Anthropic disse que usará a abordagem SynthID-Text, apresentada pela equipe do Google DeepMind em 2024, e que planeja lançar uma API de detecção de marcas d’água. A empresa também fez questão de diferenciar a marca d’água das ferramentas de detecção de IA oferecidas por companhias como a Pangram, que procuram “pistas” na escrita — como a construção “não é [X], é [Y]” — para revelar o uso de IA: “Captar esses padrões é fundamentalmente diferente de verificar uma marca d’água.”
Dá para esconder a marca editando o texto?
Alguém poderia simplesmente reescrever o texto para esconder a marca? A Anthropic reconhece que é possível, mas afirma que “uma edição leve provavelmente não removerá a marca d’água completamente”, enquanto “uma reescrita completa, em que cada palavra é substituída, removerá”. “Neste último caso, é discutível se o texto ainda pode ser descrito como gerado por IA”, acrescentou a empresa.
Sobre textos apenas revisados ou corrigidos pelo Claude, a empresa disse que a detecção dependerá “do comprimento do texto e do quanto o Claude o editou”. Se a edição for leve, “quase todas as palavras” terão sido escritas pelo autor humano e “há muito pouco (se é que há algo) para a marca d’água se fixar”.
O caso do código
O código de programação, por sua vez, deve receber menos marca d’água do que outros tipos de texto, porque o modelo precisa gerar código funcional e não terá liberdade para escolher entre opções igualmente válidas.
“Dito isso, em áreas onde há uma escolha arbitrária entre palavras ou termos específicos dentro do código, a marca d’água pode ser usada, como nos comentários”, explicou a Anthropic. “Mas, por definição, terá um efeito desprezível sobre o código realmente produzido.”
O que isso significa para a indústria
A Anthropic também destacou que o Claude não será o único assistente a gerar textos com marca d’água, já que “outros grandes desenvolvedores de modelos assinaram o mesmo Código de Conduta e implementarão suas próprias marcas d’água”.
Para o leitor brasileiro, o movimento antecipa um cenário em que distinguir texto humano de texto gerado por IA deixa de ser um jogo de adivinhação e passa a contar com infraestrutura técnica padronizada — ainda que, como a própria Anthropic admite, a marca d’água não seja infalível e possa ser contornada por uma reescrita completa.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
