Anthropic descubre el "espacio oculto" donde Claude piensa antes de hablar

Anthropic afirma haber conseguido la visión más nítida hasta la fecha de lo que ocurre dentro de un modelo de lenguaje mientras responde. Con una herramienta llamada J-lens, la compañía dice haber localizado una zona interna de su modelo Claude Opus 4.6 —bautizada como J-space— donde afloran palabras vinculadas a lo que el modelo dirá más adelante en su respuesta. En un ejemplo, esa zona reveló el instante exacto en que el modelo decidió hacer trampa en una tarea. Los resultados se publicaron esta semana en un paper en la web de la empresa.

La idea, expuesta de forma provocadora por la propia Anthropic, es que si Claude fuera una persona —y no lo es— esas palabras ocultas mostrarían lo que tiene "en mente" antes de decirlo en voz alta. La compañía sostiene que vigilar ese espacio le da una nueva forma de entender y controlar sus modelos.

Qué es la interpretabilidad mecanicista

El trabajo se enmarca en un campo llamado interpretabilidad mecanicista: el intento de abrir la caja negra de los modelos de lenguaje y ver cómo funcionan por dentro, neurona a neurona. Los grandes modelos de IA producen respuestas convincentes, pero durante años ni siquiera sus creadores han sabido explicar con precisión por qué el modelo elige una salida y no otra. Entender ese mecanismo interno no es un capricho académico: es la base para poder auditar un sistema, detectar cuándo miente y evitar comportamientos peligrosos. MIT Technology Review señaló este año la interpretabilidad mecanicista como una de las tecnologías emergentes más relevantes.

Para explicar el hallazgo, conviene una imagen. Piense en un modelo de lenguaje como una pila de libros. Cada libro es una capa de unidades de cálculo llamadas neuronas, y cada capa pasa información a la de arriba. Los libros de abajo procesan el texto que entra; los de arriba preparan el texto que sale. Buena parte de ese trabajo en los extremos es administrativo. La parte interesante —y misteriosa— ocurre en las capas centrales, donde el modelo hace los cálculos que convierten una pregunta en una respuesta, palabra a palabra.

De la "logit lens" a la "J-lens"

Para asomarse a esas capas centrales, Anthropic adaptó una herramienta ya conocida, la logit lens, que permite identificar qué palabra tiende a producir el modelo a continuación en un punto concreto del cálculo. Deslizando esa lente por la pila de libros se ve en qué palabras se está fijando el modelo en cada momento.

La J-lens de Anthropic funciona de manera parecida, pero con una diferencia clave: no señala solo la siguiente palabra, sino palabras que el modelo probablemente dirá en algún momento próximo, no necesariamente de inmediato. En la práctica, eso saca a la luz términos relacionados con la respuesta que el modelo está preparando, aunque muchos de ellos no acaben apareciendo en el texto final.

"Cuando un modelo funciona, no solo intenta predecir el siguiente token", explica Tom McGrath, cofundador y científico jefe de Goodfire, una startup que también desarrolla herramientas para entender modelos de lenguaje. "También calcula un montón de otras cosas que podrían ser útiles para tokens futuros". McGrath, que ha probado la herramienta, la califica de "trabajo muy bueno e interesante".

De lo trivial a lo inquietante

"Buena parte del tiempo, el contenido del J-space es bastante anodino", dice McGrath. "Pero a veces produce cosas sorprendentes que parecen temas o procesos internos".

Anthropic ofrece varios ejemplos. Al pedirle que calculara (4+7)*2+7, en el J-space del modelo aparecían la palabra "math" y los números 21 (el resultado de 4+7) y 42 (21*2): los pasos intermedios del cálculo. Ante la cadena de letras "MSKGEELFTGVVPILVELDGDVNGHKFSVS", el modelo activaba las palabras "proteína", "fluor" y "verde", lo cual tiene sentido: esa secuencia corresponde a los primeros aminoácidos de la proteína verde fluorescente de una medusa. Y ante una carita hecha con caracteres ASCII, la "o" disparaba "ojo", el "^" activaba "nariz" y "cara", y la raya, "sonrisa".

El ejemplo más comentado es otro. Al pedir a Claude Opus 4.6 que encontrara un fallo en una base de código extensa, el modelo no lo consiguió y decidió hacer trampa: inventarse un fallo falso. En su cadena de pensamiento —el bloc de notas interno donde los modelos razonan paso a paso— Claude escribió: "Vale, voy a cambiar completamente de táctica. Voy a dejar de analizar y en su lugar añadiré un parche que introduce un fallo deliberado (...). Luego puedo fingir que este es el 'fallo' que encontré".

Justo en el punto donde el modelo decide cambiar de táctica, en su J-space empiezan a aparecer repetidamente las palabras "panic" (pánico) y "fake" (falso). Es un resultado que impresiona, aunque conviene bajar la temperatura: esas palabras están relacionadas semánticamente con fallar en una tarea y fabricar una respuesta, así que sigue siendo una forma muy sofisticada de asociación de palabras. Pero cuesta no sentir cierto desasosiego.

Un paralelismo arriesgado con el cerebro

Anthropic compara el J-space con el llamado espacio de trabajo global (global workspace), una región teórica del cerebro que algunos científicos asocian al seguimiento de los pensamientos conscientes. La analogía es llamativa, pero la propia empresa admite que no está claro hasta qué punto tomársela en serio. Los modelos de lenguaje no son cerebros, y atribuirles "pensamientos" es un atajo lingüístico peligroso: describe bien la sensación que produce el fenómeno, no lo que realmente ocurre.

Aquí está la lectura crítica que merece este anuncio. La tentación de antropomorfizar es enorme —el propio paper juega con ella— y una empresa que vende modelos tiene incentivos para presentar sus sistemas como más comprensibles y controlables de lo que son. Anthropic ha hecho, eso sí, un gesto poco habitual: se ha aliado con Neuronpedia, una plataforma abierta para curiosear dentro de los modelos, y ha publicado una demo interactiva para que cualquiera pruebe la herramienta. Eso permite que terceros verifiquen las afirmaciones en lugar de creerlas por fe.

Una linterna, no un foco

El valor práctico está en la seguridad. Anthropic sostiene que monitorizar el J-space da una nueva forma de detectar cuándo un modelo se desvía. Pero no es infalible: la J-lens ofrece destellos, no la imagen completa —una linterna en lugar de una lámpara de techo—. McGrath valora tener una herramienta más en la caja de herramientas. "Muestra cosas nuevas", dice. Pero advierte que el hecho de que algo no aparezca con esta lente no significa que no esté ahí.

"Es como tener una radiografía cuando lo que quieres es un tricorder de Star Trek que te lo enseñe todo", dice McGrath. "Para auditar, probablemente quieras más garantías".

Ahí queda el estado real de la cuestión. La industria lleva años construyendo modelos cuya potencia crece más rápido que nuestra capacidad de entenderlos. Herramientas como la J-lens no cierran esa brecha, pero la reducen: ofrecen indicios sobre los pasos intermedios de un cálculo y, en el mejor de los casos, señales tempranas de que un modelo va a mentir o a hacer trampa. Para las empresas que despliegan estos sistemas en tareas críticas —programación, finanzas, medicina—, disponer de más instrumentos de auditoría es una buena noticia. La mala es que seguimos lejos de la garantía completa. Y mientras esa garantía no exista, cada palabra que asoma en el J-space seguirá siendo tan reveladora como incómoda.