O que é o J-Space e por que ele importa agora
Um dos avanços mais comentados da interpretabilidade de 2026 veio de um artigo da Anthropic, “Verbalizable Representations Form a Global Workspace in Language Models”, demonstrado no Claude Opus 4.6. A equipe propõe o J-Space, um análogo em modelos de linguagem do “espaço de trabalho global” do córtex humano — o circuito neural que a neurociência associa à consciência de acesso.
Em termos simples: a ideia é que, dentro da representação interna de cada token, existe uma parte que pode ser expressa em palavras (o componente verbalizável) e outra que não (o não verbalizável). O J-Space isola a primeira, o que transforma a interpretabilidade de um exercício abstrato em uma ferramenta prática de auditoria de alinhamento.
J-lens: os vetores que leem o modelo
A construção matemática começa pelo impacto causal médio que uma variação na representação de um token exerce sobre a camada final do Transformer. Multiplicando esse impacto pela matriz de “unembedding”, obtemos os J-lens vectors — um vetor para cada token do vocabulário, em cada camada.
Esses vetores formam um “frame” supercompleto no espaço de representação. Por um resultado clássico de geometria em alta dimensão (a concentração de medida de Lévy), vetores distintos tendem a ser quase ortogonais entre si — exceto os semanticamente relacionados, como “rei” e “imperador”. Para uma dimensão típica de 4096, o produto interno entre vetores não relacionados fica na casa de 0,015.
Uma união de cones, não um subespaço
O J-Space em si é definido como o conjunto de combinações lineares k-esparsas dos J-lens vectors com coeficientes não negativos. Geometricamente, isso é uma união de cones, e não um subespaço linear — um detalhe que explica por que projeções e manipulações dentro desse espaço se comportam de forma diferente do que a intuição linear sugeriria.
O componente verbalizável de uma representação é sua projeção ortogonal sobre o J-Space. O resíduo dessa projeção é, por definição, ortogonal ao próprio espaço — o componente não verbalizável. É essa separação limpa que permite aos pesquisadores “editar” apenas a parte da representação que corresponde a conceitos expressáveis.
Como escolher o grau de esparsidade
Uma decisão importante é o valor de k — quantos vetores usar na decomposição. O artigo usa a fração de variância explicada pela projeção (FVE), comparando-a com a variância que k vetores aleatórios explicariam por acaso. Empiricamente, o “excesso de variância” satura por volta de k ≈ 25: acima disso, projetar no J-Space não captura significativamente mais informação do que projetar em um conjunto equivalente de vetores aleatórios. Esse excesso fica em torno de 10% — um número pequeno, mas que representa sinal real sobre ruído.
Por que as intervenções usam regressão linear
Calcular a projeção exata no J-Space exige resolver um problema de codificação esparsa não negativa, que é NP-difícil no caso geral. Na prática, a Anthropic usa uma heurística de regressão linear para tornar as intervenções computacionalmente viáveis. Métodos aproximados podem fazer vetores correlacionados “contarem duas vezes” a variância, por isso a avaliação rigorosa do FVE é feita offline, com o cálculo exato.
O resultado é um kit de ferramentas concreto: identificar quais conceitos estão verbalizados em cada camada, medir o quanto um modelo “sabe” que sabe, e intervir cirurgicamente para testar hipóteses de alinhamento. Para quem acompanha segurança de IA, o J-Space representa um passo do debate filosófico para a engenharia mensurável.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
