J-lens: cómo mirar dentro de Claude sin confundir una sonda con su mente

El 6 de julio de 2026, un equipo de Anthropic publicó Verbalizable Representations Form a Global Workspace in Language Models. El trabajo presenta la Jacobian lens, o J-lens, una técnica que transforma parte de la actividad interna de modelos como Claude en listas de tokens legibles. Es tentador describir el resultado como una ventana a lo que el modelo “piensa”. Esa frase sirve para llamar la atención, pero borra justo la distinción que hace útil el estudio: una sonda no descubre pensamientos completos; ofrece una medición parcial, construida con supuestos concretos, de representaciones que podrían influir en palabras futuras.

La capacidad duradera que deja este hallazgo no consiste en memorizar el nombre J-space. Consiste en aprender a leer cualquier anuncio de interpretabilidad mediante cuatro preguntas: qué variable observa, cómo la traduce, si la intervención causa un cambio y qué queda fuera de su cobertura. Ese marco permite separar una visualización sugerente de una herramienta de auditoría, y también evita convertir una lista de palabras en una historia psicológica sobre el modelo.

Qué mide realmente la J-lens

Un transformador mantiene en cada posición un vector llamado flujo residual. Las capas leen ese vector, lo modifican y lo pasan hacia delante. En la última parte del modelo, una operación de salida convierte el vector final en puntuaciones para los tokens del vocabulario. El problema es que aplicar directamente esa operación a una capa intermedia —la técnica conocida como logit lens— supone que las coordenadas conservan el mismo significado a lo largo de todas las capas.

La J-lens intenta corregir esa suposición. Según la descripción metodológica de los autores, calcula el efecto lineal de una pequeña variación en una activación intermedia sobre los estados posteriores. Después promedia esos jacobianos entre posiciones y contextos y aplica la matriz de salida del propio modelo. El resultado no es una transcripción del estado interno: es un ranking de tokens asociados a direcciones que, en promedio, tienen capacidad de afectar a lo que el modelo verbalizará ahora o más adelante.

La palabra decisiva es promedio. El método usa una regularidad obtenida sobre un corpus para interpretar una activación particular. También linealiza una red no lineal alrededor de un punto. Por eso “aparece spider entre los tokens superiores” significa que la activación se alinea con una dirección verbalizable vinculada a ese token bajo esta aproximación. No significa que exista una neurona-araña, que el modelo haya pronunciado una frase silenciosa ni que hayamos recuperado todo el cálculo.

Del readout a la evidencia causal

Una lectura interna puede ser meramente correlacional: el concepto aparece porque el texto de entrada ya lo sugiere o porque coincide con la respuesta próxima. El paper va más lejos al intervenir sobre las coordenadas de la lente. En un conjunto de pruebas, los investigadores sustituyeron la representación de “France” por la de “China” mientras aplicaban distintas operaciones —capital, idioma o continente—. El resultado objetivo cambió en 76 de 192 ensayos con la intervención básica y en 101 de 192 al duplicar su intensidad, cifras documentadas en la sección sobre difusión a circuitos posteriores.

Ese experimento importa más que una nube de palabras vistosa. Si cambiar una dirección interna altera de forma predecible respuestas distintas, hay evidencia de que esa representación participa causalmente en el cálculo. Pero 76 de 192 tampoco es una garantía universal: el éxito depende de cuánto estaba cargado el concepto original y varía por categoría. La interpretación correcta es “esta intervención redirige parte del procesamiento en estas condiciones”, no “hemos localizado el pensamiento de Francia”.

El mismo criterio sirve para evaluar cualquier herramienta futura. Una captura de activaciones responde qué acompaña al comportamiento. Una ablación o sustitución controlada pregunta qué contribuye a producirlo. Una réplica en otra familia de modelos pregunta si el fenómeno generaliza. Son peldaños diferentes; sumarlos fortalece el caso, pero ninguno concede acceso total al mecanismo.

La cobertura: lo ausente no prueba ausencia

Los propios autores delimitan con claridad la lente. El J-space se define mediante combinaciones no negativas y dispersas de vectores asociados a tokens; suelen permitir hasta unos 25 vectores activos. Sin embargo, la porción capturada representa menos del 10% de la varianza de activación en las capas estudiadas, según la formalización y las mediciones del paper. Además, un concepto que necesita varias piezas del vocabulario puede quedar mal representado, y los procesos automáticos muy entrenados pueden continuar aunque se suprima este espacio.

Esto impone una regla de auditoría sencilla: una señal presente puede elevar la sospecha; una señal ausente no exonera al sistema. Si la lente muestra términos asociados a engaño durante una evaluación, el hallazgo merece investigación adicional. Si no muestra ninguno, no demuestra que no exista una estrategia engañosa. El propio equipo afirma que no considera suficiente monitorizar el J-space y recomienda combinar la técnica con otros métodos en su discusión de limitaciones.

La restricción también protege contra el antropomorfismo. Los autores comparan ciertas propiedades funcionales con la teoría del espacio de trabajo global en humanos: información disponible para informar, modular y reutilizar de forma flexible. Pero señalan que el transformador carece de la misma arquitectura recurrente del cerebro y que el paralelismo no establece experiencia subjetiva. “Funciona como un espacio compartido en estas pruebas” y “es consciente” son afirmaciones de clases distintas.

Cómo comprobar la herramienta sin creer una captura

El tercer peldaño está abierto al lector. La visualización interactiva de Anthropic permite recorrer posiciones y capas de ejemplos del estudio. Neuronpedia ofrece J-lens para modelos abiertos, y su nota técnica explica cómo leer los tokens superiores y probar sustituciones. No reproduce por sí sola todos los resultados del paper, pero convierte el concepto en algo inspeccionable y deja ver una característica esencial: los rankings cambian con la capa, la posición y el modelo.

La crítica externa publicada junto al trabajo añade una comprobación valiosa. En el documento de comentarios de investigadores externos, Neel Nanda y colaboradores informan de una réplica de los resultados centrales en Qwen 3.6 27B. A la vez, describen la J-lens como una aproximación ruidosa, propensa a omisiones y falsos positivos, útil sobre todo para generar hipótesis en análisis forenses. La combinación —réplica más cautela— es más informativa que una adhesión entusiasta.

Una ficha de lectura para la próxima “ventana a la mente”

Ante una nueva técnica de interpretabilidad, conviene registrar primero el objeto medido: activaciones, gradientes, atención, características aprendidas o texto generado por otro modelo. Después, la traducción: qué operación convierte ese objeto en palabras, etiquetas o gráficos. En tercer lugar, la prueba causal: qué cambia al intervenir y cuál es el control. Por último, la cobertura: modelos probados, tareas, capas, conceptos invisibles, falsos positivos y fallos de generalización.

Aplicada aquí, la ficha queda así. Objeto: vectores del flujo residual. Traducción: jacobianos promediados y proyección al vocabulario. Evidencia causal: intercambio y ablación de direcciones que cambian algunas respuestas flexibles. Cobertura: parcial, vinculada en gran medida a conceptos verbalizables como tokens y probada sobre modelos y escenarios determinados. Con esa ficha, la J-lens conserva su interés sin necesidad de atribuir a Claude una vida mental humana.

Ésa es la conclusión útil un año después de que el nombre de la herramienta deje de ser novedad: la interpretabilidad no es un interruptor entre caja negra y transparencia. Es una cadena de instrumentos con resolución, calibración y zonas ciegas. Leer bien un anuncio exige identificar cada eslabón. Una sonda puede revelar una pista causal importante; convertir esa pista en una lectura completa de la mente es saltarse la mitad del método.