Del modelo al escáner: cómo volver refutable una explicación de IA

Un modelo puede predecir qué parte del cerebro responderá a una historia sin saber explicar por qué. También puede ofrecer una frase convincente que no describa el mecanismo aprendido. El 13 de junio de 2026, un equipo de la Universidad de Texas en Austin, Microsoft Research, UC San Francisco y UC Berkeley actualizó el estudio de generative causal testing (GCT): un método que transforma patrones de un modelo de codificación cerebral en explicaciones breves y las somete a un nuevo experimento con resonancia magnética funcional.

El avance no es una IA que “descubre cómo funciona el cerebro” por sí sola. Los investigadores eligieron los datos, los modelos, los vóxeles, las comparaciones y los criterios estadísticos; después midieron a personas reales en un escáner. La aportación es un bucle: predicción, explicación, intervención y contraste. Aprender a reconocer esas cuatro piezas permite distinguir una hipótesis científica asistida por IA de una interpretación bonita añadida después de obtener el resultado.

Primera pieza: un modelo que predice fuera del entrenamiento

El trabajo comienza con modelos de codificación. Una persona escucha historias mientras la fMRI registra cambios en la señal BOLD de pequeños volúmenes llamados vóxeles. Las representaciones internas de un modelo de lenguaje se alinean temporalmente con esa señal y una regresión aprende a predecir la respuesta de cada vóxel. La prueba importante se hace con historias reservadas: acertar sobre los datos usados para ajustar el modelo no demuestra que haya capturado un patrón general.

Los autores utilizaron unas veinte horas de escucha por participante para tres personas y construyeron modelos basados en dos familias distintas, LLaMA y OPT. La doble modelización no elimina el error, pero permite preguntar si las explicaciones son estables ante una elección importante. Solo continuaron con vóxeles cuyo rendimiento predictivo superaba un umbral y, para el experimento posterior, eligieron diecisiete por persona. El denominador correcto no es “todo el cerebro”: son zonas deliberadamente seleccionadas porque el modelo ya funcionaba relativamente bien.

Esta selección es una lección transferible. Si una herramienta genera explicaciones únicamente para sus mejores casos, su tasa de éxito no puede extenderse a los casos descartados. Antes de celebrar un porcentaje hay que reconstruir el embudo: cuántos elementos había, cuáles fueron excluidos, con qué regla y sobre qué conjunto se calculó el resultado final.

Segunda pieza: convertir una caja negra en una frase operacional

Para cada modelo de vóxel, GCT buscó fragmentos cortos que producían predicciones altas. GPT-4 resumió esos fragmentos en candidatos como “preparación de alimentos” o “nombres de lugares”. Luego generó frases sintéticas asociadas y conservó la explicación que activaba con más fuerza el modelo predictivo. Esto comprueba coherencia con el modelo, todavía no con el cerebro.

Una etiqueta así es una hipótesis operacional, no el nombre definitivo de una función cerebral. Un vóxel contiene señales de muchas poblaciones neuronales y puede responder a dimensiones semánticas solapadas. El artículo señala que una explicación exitosa demuestra que el rasgo puede modular la respuesta, no que sea el único rasgo capaz de hacerlo. En sus análisis ampliados, los modelos con una sola pregunta capturaban aproximadamente la mitad del rendimiento de los modelos completos, y la mayoría de los vóxeles mejoraba al admitir múltiples rasgos.

El vocabulario importa. “Esta región responde a comida” es demasiado fuerte; “un texto centrado en preparación de alimentos debería elevar la respuesta medida en este vóxel respecto a pasajes de comparación” sí puede fallar. Una explicación científica especifica observación, intervención, dirección esperada y referencia contra la que se juzga.

Tercera pieza: intervenir con una historia nueva

El modelo de lenguaje escribió relatos coherentes en los que cada párrafo se diseñaba para expresar una explicación diferente. Los mismos participantes volvieron al escáner y escucharon esas historias. Para cada vóxel, los investigadores compararon la señal durante su párrafo objetivo con la media durante los demás párrafos. De 51 vóxeles seleccionados —17 en cada una de tres personas—, 41 mostraron un aumento; el efecto medio comunicado fue de 0,198 desviaciones estándar por intervalo de medida sobre la referencia.

La palabra “causal” se refiere aquí a esa intervención controlada: cambiar el contenido semántico del estímulo produjo un cambio medible compatible con la hipótesis. No significa que el estudio haya identificado toda la cadena neuronal, que la frase sea la única causa posible o que una región tenga una sola función. La fMRI registra señal BOLD, un cambio hemodinámico vinculado a oxigenación sanguínea, no la actividad de cada neurona. Los propios autores reconocen que la resolución espacial y temporal de la técnica limita la explicación.

Tampoco basta con que un párrafo active su objetivo. Conceptos relacionados pueden activar varios vóxeles. El estudio encontró estructura fuera de la diagonal: “direcciones”, “medidas” y “lugares”, por ejemplo, comparten contenido. En una prueba adversarial con tres regiones asociadas a lugares, el método pudo separar dos mediante estímulos más específicos, pero no logró aislar la tercera. Un fracaso así añade información: muestra dónde la hipótesis o la medición todavía no discriminan.

Qué resultado pertenece al cerebro y cuál al modelo

GCT contiene dos pruebas distintas. La primera verifica que el texto generado activa al modelo de codificación; puede fallar por una mala explicación o un estímulo inadecuado. La segunda verifica si activa la señal cerebral real; puede fallar porque el modelo predictivo era inexacto, porque la fMRI es ruidosa o porque la hipótesis no describe la selectividad. Confundirlas permite presentar una validación interna como descubrimiento biológico.

En los fallos analizados, los párrafos solían coincidir con su explicación y elevar la predicción del modelo, pero no siempre elevaban la señal medida. El mejor indicador de éxito experimental fue la estabilidad: el acuerdo entre los rankings producidos por los modelos basados en LLaMA y OPT. Predicción alta y estabilidad conjunta ofrecían más confianza que una explicación generada una sola vez.

Este patrón sirve fuera de la neurociencia. Si un modelo propone una regla sobre proteínas, clima o materiales y el mismo modelo puntúa el ejemplo que él mismo generó, el circuito sigue cerrado sobre sus supuestos. La prueba fuerte exige una medición que no dependa de esa puntuación: un ensayo físico, un nuevo conjunto observado o un instrumento independiente.

Los límites que contiene la fuente primaria

La muestra fue de tres participantes sanos que escucharon historias en inglés. Los modelos se entrenaron con un dominio concreto y los autores advierten que los estímulos alejados de esa distribución se predicen peor. También señalan que diferentes modelos de codificación pueden producir explicaciones distintas y igualmente válidas. Por eso una frase no debe interpretarse como descripción única de un vóxel o una región.

El método privilegia una explicación breve y puede perder la polisemia. La precisión depende del modelo de partida, de la redacción del prompt y del tipo de historia: los anexos muestran variación entre relatos y mejor rendimiento con una de las dos plantillas de generación ensayadas. Algunas personas se movieron más en el escáner que otras, otro recordatorio de que la medición biológica introduce ruido después de toda la automatización.

Hay materiales para inspeccionar el trabajo. La página del proyecto describe el recorrido desde los modelos de preguntas hasta GCT; el repositorio publica el código y las rutas de reproducción; y el conjunto de escucha pasiva usado para ajustar modelos está en OpenNeuro. La disponibilidad no equivale a una réplica independiente, pero permite auditar decisiones y construirla.

Una plantilla para juzgar hipótesis generadas por IA

La primera pregunta es predictiva: ¿el modelo funciona en datos reservados y se declara qué casos fueron seleccionados? La segunda es semántica: ¿la explicación se traduce en una predicción que podría resultar falsa? La tercera es experimental: ¿se manipula el factor propuesto y se mide el resultado fuera del modelo? La cuarta es comparativa: ¿hay controles que separan conceptos próximos y se informan los fracasos? La quinta es acumulativa: ¿otra muestra, método o laboratorio puede repetir la prueba?

GCT supera varios de esos peldaños y deja otros abiertos. Produce hipótesis legibles, diseña estímulos nuevos, regresa al escáner y documenta límites y código. No establece una teoría completa del lenguaje cerebral, no generaliza desde tres personas a toda la población y no convierte al LLM en autor autónomo. Su valor duradero es metodológico: una explicación de IA merece atención científica cuando abandona el circuito del modelo, arriesga una predicción ante el mundo y conserva el resultado incluso cuando contradice la historia más atractiva.