IA estrecha e IAG: por qué sumar especialistas no crea generalidad

Reeditado el 30 de julio de 2026, este artículo corrige una metáfora demasiado cómoda: la IA estrecha no es una vía que, al acumular éxitos, desemboque necesariamente en inteligencia artificial general. «Estrecha» y «general» describen el alcance observado de un sistema bajo ciertas condiciones. No especifican una arquitectura, una ruta histórica ni una cantidad de módulos que baste con conectar.

Una colección de especialistas puede ser muy útil y cubrir muchas necesidades. También puede seguir fallando ante una tarea nueva, transferir mal lo aprendido, olvidar capacidades anteriores o depender de un coordinador humano. La relación entre especialización y generalidad se entiende mejor como un problema de transferencia y composición que como una escalera.

El alcance se demuestra, no se hereda del nombre

Un sistema especializado tiene una envolvente definida: entradas, salidas, entorno, objetivo, datos y condiciones de validez. El trabajo de AlphaFold en Nature describe un sistema para predecir estructuras de proteínas con precisión competitiva en CASP14. El logro es profundo precisamente porque el problema y la evaluación están especificados. No necesita convertirse en agente clínico, químico o general para tener valor.

La especialización tampoco significa reglas simples. Un modelo puede contener miles de millones de parámetros y seguir limitado por su tarea y distribución. A la inversa, un algoritmo común puede aplicarse a varios dominios sin que una única instancia domine todos. AlphaZero empleó el mismo enfoque de aprendizaje por refuerzo y búsqueda para Go, ajedrez y shogi, pero entrenó jugadores para entornos con reglas, acciones y recompensas explícitas. Generalizar un método de entrenamiento no equivale a demostrar generalidad abierta del sistema resultante.

El marco Levels of AGI propone separar amplitud de tareas y profundidad de rendimiento. Esa cuadrícula evita ordenar todo en una sola línea: un sistema puede ampliar cobertura sin alcanzar gran competencia o superar a especialistas humanos en un dominio sin transferir fuera de él. Es una propuesta de clasificación, no un consenso definitivo, pero obliga a declarar qué se ha medido.

Tres formas distintas de ampliar capacidades

La primera es el aprendizaje multitarea: un conjunto de parámetros se entrena sobre muchas tareas y comparte representaciones. Puede haber transferencia positiva cuando una habilidad ayuda a otra, o interferencia cuando los gradientes compiten. La segunda es la composición modular: un coordinador elige entre modelos, bases de datos y herramientas. La tercera es la adaptación: el sistema adquiere una tarea nueva mediante ejemplos, actualización o experiencia.

Gato investigó la primera vía mediante una sola red con los mismos pesos para cientos de tareas que incluían control robótico, juegos, visión y lenguaje, representadas como secuencias de tokens. El experimento mostró que modalidades diferentes pueden compartir una interfaz y parámetros. No demostró dominio uniforme: el propio diseño estaba limitado por contexto, datos, acciones y niveles de rendimiento de cada tarea.

Una lista larga de tareas no basta para distinguir cobertura de transferencia. Si todas estuvieron en el entrenamiento, el sistema puede haber aprendido numerosos comportamientos específicos. La prueba de generalidad necesita familias retenidas, composiciones nuevas y una contabilidad de ejemplos y actualizaciones. También debe comprobar si añadir una tarea degrada las anteriores.

Conectar especialistas crea interfaces y fallos nuevos

La arquitectura MRKL propone combinar un modelo de lenguaje con módulos expertos, fuentes externas de conocimiento y calculadoras simbólicas. El principio es valioso: no pedir a los pesos que memoricen o calculen todo. Pero el conjunto necesita enrutamiento, formatos compatibles, control de permisos, manejo de errores y una forma de decidir cuándo confiar en cada módulo.

Toolformer estudió cómo un modelo de lenguaje podía aprender a insertar llamadas a herramientas como calculadora, buscador o traductor y aprovechar sus respuestas. La herramienta puede aportar una capacidad que el modelo base no ejecuta de forma fiable. El resultado pertenece al sistema compuesto: si cambia la API, devuelve un dato adverso o falla la llamada, el comportamiento cambia aunque los pesos sean idénticos.

Componer no resuelve automáticamente los conflictos. Dos módulos pueden usar unidades distintas, fuentes incompatibles o niveles de confianza incomparables. Un planificador puede encadenar respuestas individualmente correctas y producir una acción global equivocada. La evaluación debe incluir las fronteras: selección de herramienta, serialización de parámetros, propagación de incertidumbre, verificación del efecto y recuperación ante fallos.

La fiabilidad del conjunto no es la media de las fiabilidades individuales. En una cadena, varios pasos con alta probabilidad de acierto pueden acumular una tasa apreciable de fallo, y un error temprano puede condicionar todos los siguientes. Se necesitan pruebas de extremo a extremo, trazas que asignen cada decisión a su componente y contratos para entradas, salidas y unidades. Cuando dos módulos discrepan, el coordinador debe pedir evidencia, abstenerse o escalar; elegir silenciosamente uno convierte la ruta en una fuente oculta de error.

Aprender después del despliegue tiene un coste

Adaptarse a una tarea nueva puede requerir ajustar parámetros. Eso introduce el riesgo de olvidar lo anterior. El trabajo Overcoming catastrophic forgetting in neural networks estudió este fenómeno y propuso proteger parámetros importantes para tareas previas mientras se aprende otra. El método aborda un mecanismo definido; no convierte el aprendizaje continuo en un problema resuelto.

Un sistema adaptable necesita memoria de versiones, datos autorizados, pruebas de regresión y una política para retirar cambios. Si aprende directamente de interacciones, puede incorporar errores, ataques o patrones temporales. Si solo se actualiza tras curación humana, la autonomía de aprendizaje es menor de lo que sugiere la etiqueta. Ambas opciones pueden ser correctas; deben describirse sin ocultar quién selecciona la experiencia.

La transferencia se mide con una matriz. Las filas son habilidades de origen; las columnas, tareas nuevas. Cada celda registra rendimiento antes de adaptar, ejemplos necesarios, coste, rendimiento después y daño causado a otras tareas. Un caso favorable aislado no demuestra transferencia general; un promedio puede esconder interferencias graves. La matriz vuelve visible si el sistema reutiliza conocimiento o solo acumula entrenamientos.

Cómo evaluar un sistema que promete «convergencia»

Primero se dibuja su frontera. ¿Es un único modelo, varios expertos o un servicio con herramientas? ¿Qué componente conserva el estado, decide la ruta y ejecuta? Después se define el conjunto de tareas conocidas y se reserva una familia nueva. Se mantienen constantes presupuesto, datos, tiempo, intervención humana y acceso a herramientas. Sin esa igualdad, «resolvió más tareas» puede significar simplemente «recibió más recursos».

Luego se prueban cuatro propiedades: transferencia a una regla no entrenada; composición de habilidades en un orden nuevo; retención de lo aprendido antes; y recuperación cuando un módulo falla. Se publican resultados por tarea, no solo una media. También se registra autonomía por separado: un sistema que actúa más no es por ello más inteligente, pero sí expone una superficie mayor de consecuencias.

La prueba incluye controles negativos: tareas que el sistema no debería intentar, herramientas sin permiso, datos contradictorios y objetivos que cambian a mitad del proceso. El comportamiento seguro puede ser detenerse. También se mide cuánto trabajo humano quedó fuera de la cifra: diseño de prompts, elección de rutas, corrección de intentos y preparación de ejemplos. Ocultar esa asistencia transforma una demostración del equipo en una supuesta propiedad autónoma del sistema.

Por último, se evita convertir una previsión en hecho. El original afirmaba que la convergencia gradual entre IA estrecha e IAG reduciría la distancia y que una suma de sistemas médicos ofrecería un atisbo de generalidad; no aportaba prueba para ninguna trayectoria. La capacidad transferible es pedir un mapa de componentes y una matriz de transferencia. Especialistas coordinados pueden crear un producto potente; la generalidad empieza a demostrarse cuando el conjunto resuelve novedades sin guion, conserva lo anterior y hace visibles sus límites.