Aprendizaje continuo: cómo medir memoria y adaptación en IA

Esta guía, revisada el 30 de julio de 2026, propone una prueba más exigente que preguntar cuántas tareas resuelve una IA. Primero se le enseña A, después B y finalmente C. Tras cada etapa se vuelven a examinar todas las anteriores. Si C mejora mientras A desaparece, el sistema no está acumulando conocimiento: está sustituyéndolo. Si protege A congelando casi todo y ya no aprende C, conserva memoria a costa de perder plasticidad.

Ese equilibrio entre estabilidad y plasticidad es el núcleo del aprendizaje continuo. Es relevante para una futura inteligencia artificial general (AGI), pero no constituye por sí solo una ruta ni un certificado de AGI. La capacidad útil para el lector será leer una matriz temporal de resultados y distinguir aprendizaje nuevo, olvido, transferencia y coste de memoria.

Aprender en secuencia cambia el experimento

En el entrenamiento convencional, los datos suelen mezclarse y el modelo puede revisarlos durante varias épocas. En aprendizaje continuo, ejemplos o tareas llegan como una secuencia y la distribución cambia. El sistema puede no conservar todos los datos anteriores, no conocer de antemano los límites entre tareas y tener que responder sobre cualquier conocimiento acumulado.

El olvido catastrófico aparece cuando las actualizaciones útiles para la experiencia nueva sobrescriben parámetros importantes para experiencias previas. El artículo de Kirkpatrick y colaboradores sobre Elastic Weight Consolidation (EWC) describe el fenómeno y penaliza cambios en pesos estimados como importantes para tareas anteriores. El método ilustra una familia —regularización— y una tensión: proteger pesos puede conservar habilidades, pero limita cuánto puede adaptarse la misma capacidad.

Antes del algoritmo hay que declarar el escenario

La frase «aprende continuamente» es incompleta si no dice qué información recibe al evaluar. «Three scenarios for continual learning» distingue configuraciones que cambian mucho la dificultad. En aprendizaje incremental por tareas, la identidad de la tarea está disponible en la prueba y puede seleccionar una cabeza de salida. En incremental por dominio, cambia la distribución de entrada, pero la tarea y el espacio de salida se mantienen. En incremental por clases, aparecen clases nuevas y el modelo debe elegir entre todas sin recibir la identidad de la tarea.

Un resultado con la tarea indicada no debe compararse como si el sistema hubiera inferido por sí solo el contexto. Tampoco es igual rotar imágenes que introducir conceptos nuevos, ni recibir bloques nítidos que un flujo donde los cambios son graduales. El protocolo debe declarar orden, repetición, tamaño de cada experiencia, acceso a límites, memoria permitida y conocimiento disponible en inferencia.

La matriz temporal: el instrumento central

Supongamos T experiencias. Tras aprender la experiencia i, se evalúa el modelo en cada prueba j y se registra R(i,j). Las filas indican cuándo se midió; las columnas, sobre qué experiencia. La diagonal muestra el rendimiento al terminar de aprender cada bloque. Las celdas a la izquierda de la diagonal revelan retención; las de la derecha permiten estudiar si el conocimiento previo ayuda antes de entrenar una experiencia futura.

De esa matriz salen varias preguntas. La exactitud media final resume todas las columnas después de la última experiencia. El olvido de una tarea puede calcularse como su mejor rendimiento histórico menos el final. La transferencia hacia atrás compara el resultado final de una tarea con el que tenía justo al aprenderla; puede ser positiva si experiencias posteriores la mejoran. La transferencia hacia delante pregunta si aprender antes acelera o mejora una tarea futura frente a una referencia sin esa historia.

Gradient Episodic Memory (GEM) propuso métricas explícitas de exactitud y transferencia junto con un método basado en memoria. La lección perdurable no es adoptar una única fórmula, sino exigir la matriz completa. Dos sistemas con la misma media pueden diferir: uno olvida mucho las primeras tareas y otro reparte errores de forma estable.

Cuatro referencias evitan victorias ficticias

La primera referencia es ajuste ingenuo: entrenar la secuencia sin protección. Muestra cuánto olvida el modelo base. La segunda entrena un modelo independiente por experiencia; evita olvido, pero crece en almacenamiento y necesita saber cuál usar. La tercera mezcla todos los datos de manera conjunta, si es legal y materialmente posible; no es aprendizaje continuo, sino una referencia aproximada del rendimiento con acceso retrospectivo. La cuarta repite ejemplos anteriores con un presupuesto de memoria declarado.

Una propuesta solo aporta algo si mejora sobre referencias comparables. Superar el ajuste ingenuo no basta cuando almacenar unos pocos ejemplos obtiene más retención con menos complejidad. Igualar el entrenamiento conjunto puede ser notable, pero hay que contar memoria, cómputo acumulado, latencia y número de parámetros. Si una arquitectura añade una red por tarea, «no olvida» puede ser correcto y aun así no escalar.

Tres familias de soluciones y su factura

La regularización, como EWC, intenta identificar parámetros o salidas que conviene preservar y penaliza cambios dañinos. No guarda necesariamente datos crudos, pero depende de que la importancia estimada siga siendo válida. Si tareas nuevas requieren reutilizar los mismos parámetros de modo incompatible, la estabilidad puede bloquear el aprendizaje.

La repetición o replay intercala experiencias antiguas con las nuevas. Puede conservar ejemplos reales, representaciones o muestras generadas. CLEAR combina repetición, aprendizaje fuera de política y clonación de comportamiento en aprendizaje por refuerzo continuo. Repetir suele ser una referencia fuerte, pero abre preguntas de privacidad, derechos, representatividad del búfer y sesgo hacia lo que se decidió guardar.

Los métodos arquitectónicos reservan capacidad. Progressive Neural Networks añade columnas para tareas nuevas y conexiones laterales desde las anteriores, evitando modificar las columnas congeladas. Esto protege conocimiento por diseño y permite transferencia, pero el modelo crece. La comparación debe informar parámetros tras cada experiencia, no solo exactitud.

La memoria episódica también puede proteger gradientes

GEM mantiene ejemplos de experiencias previas y usa sus gradientes como restricciones: una actualización nueva no debería aumentar la pérdida en la memoria. Así convierte la estabilidad en una condición de optimización. El enfoque muestra por qué «tener memoria» no equivale a recordar: importa cómo se selecciona, cuánto ocupa y qué función cumple durante las actualizaciones.

El búfer debe evaluarse por clase, periodo y caso raro. Un muestreo uniforme puede olvidar precisamente eventos poco frecuentes; seleccionar solo ejemplos difíciles puede distorsionar la distribución. La prueba justa fija el mismo número de elementos o bytes para todos los métodos y cuenta metadatos, generador y parámetros auxiliares. «Sin replay de datos crudos» tampoco significa memoria cero si se guardan prototipos, gradientes o un modelo generativo.

El orden y la repetición forman parte del mundo

Muchas pruebas presentan cada clase una sola vez en bloques ordenados. Eso aísla el olvido, pero la vida real suele repetir conceptos, mezclar novedades y cambiar gradualmente. un análisis sobre escenarios incremental por clases advierte que centrarse solo en secuencias sin repetición puede exagerar una forma de olvido y descuidar transferencia y eficiencia.

Por eso conviene ejecutar varios órdenes y semillas, incluir recurrencia y probar límites desconocidos. Un algoritmo que funciona cuando recibe «ha empezado la tarea 4» puede fallar si la deriva no se anuncia. El detector de cambio, si existe, debe evaluarse como parte del sistema: sus falsas alarmas y retrasos afectan cuándo se protege o adapta el modelo.

Retener no basta: también puede perder plasticidad

Un sistema puede obtener poco olvido porque apenas cambia. Para detectar esa falsa victoria hay que medir cuánto aprende cada experiencia nueva y compararlo con un modelo fresco. La plasticidad disminuye si necesita cada vez más pasos, no alcanza la referencia independiente o deja de representar novedades. La curva debe mostrar adquisición y retención simultáneamente.

También hay transferencia positiva. Una secuencia bien relacionada puede permitir aprender más rápido lo nuevo o mejorar lo antiguo. Eso exige comparar contra un modelo sin historia con el mismo presupuesto. Si solo se informa olvido, se pierde la mitad del propósito: acumular experiencia debería aportar algo, no limitarse a guardar un archivo de habilidades.

Reproducibilidad: el protocolo es parte del resultado

Orden de tareas, transformaciones, memoria y evaluación cambian tanto las conclusiones que una implementación compartida ayuda. Avalanche se diseñó como biblioteca abierta con módulos para benchmarks, entrenamiento, evaluación, modelos y registro, en respuesta a la dificultad de reproducir comparaciones. Usar una biblioteca no garantiza rigor, pero hace visibles decisiones que de otro modo quedan dispersas.

Una ficha mínima debe publicar secuencia, escenario, acceso a identidad de tarea, tamaño de memoria, parámetros, cómputo, número de pasadas, matriz R y variación entre ejecuciones. Si hay datos sensibles, debe explicar qué se conserva. Si el sistema cambia en producción, cada versión necesita trazabilidad y una prueba de regresión sobre habilidades antiguas.

Cómo leer una promesa de aprendizaje continuo

El lector puede pedir primero el flujo exacto y la información disponible; después la matriz temporal; luego cuatro referencias; por último, la factura de estabilidad: datos guardados, parámetros, cómputo y plasticidad perdida. También debe comprobar si la prueba incluye repetición, deriva no anunciada y tareas fuera de la familia de entrenamiento.

La capacidad transferible es distinguir «actualizar un modelo» de «acumular conocimiento». Lo segundo exige aprender lo nuevo, conservar lo relevante, transferir cuando ayuda y pagar un coste declarado. El aprendizaje continuo es un requisito plausible para sistemas más generales, pero la generalidad no se infiere del nombre del método: se observa celda a celda, a lo largo del tiempo.