Aprendizaje Incremental

El aprendizaje incremental es la capacidad de un modelo para aprender de un flujo continuo de datos que llega de forma secuencial, incorporando conocimiento nuevo sin reentrenarse desde cero y, en lo posible, sin destruir lo aprendido. Se opone al aprendizaje por lotes (batch), donde el modelo ve todo el conjunto de datos de una vez.

Van de Ven y sus colaboradores lo definen como aprender de forma incremental a partir de un flujo de datos no estacionario: la distribución cambia con el tiempo y cada fase debe sumar, no sobrescribir. Ese ideal choca con cómo aprenden las redes neuronales, y ahí empieza el problema central del campo.

Incremental, continuo y lifelong: qué relación tienen

En la literatura, «aprendizaje incremental», «aprendizaje continuo» (continual learning) y «lifelong learning» se usan casi siempre como sinónimos: los tres nombran el mismo objetivo de aprender de forma secuencial sin olvidar. Los matices son de énfasis, no de definición. «Continuo» subraya el flujo ininterrumpido; «lifelong» evoca un horizonte largo, de acumulación durante la vida útil del sistema; «incremental» pone el foco en que cada paso añade algo. El artículo de referencia de van de Ven, Tuytelaars y Tolias se titula «Three types of incremental learning» y habla a la vez de escenarios de continual learning. No conviene tratarlos como conceptos distintos: son etiquetas de un mismo problema.

El olvido catastrófico: se mitiga, no se elimina

El obstáculo definitorio es el olvido catastrófico, descrito por McCloskey y Cohen en 1989 y revisado por French en 1999: cuando una red neuronal se entrena en una tarea nueva, tiende a degradar rápida y drásticamente lo que sabía de las anteriores, porque cada actualización de gradiente sobrescribe los pesos que codificaban el conocimiento previo. Conviene ser precisos: ninguna estrategia lo elimina. En el mejor de los casos se mitiga, y su grado depende del escenario y del presupuesto de memoria y cómputo. La raíz es el dilema estabilidad-plasticidad: un modelo plástico para aprender lo nuevo es, por eso mismo, propenso a pisar lo viejo, y reducir el olvido suele costar capacidad de aprender.

Estrategias y su límite real

Tres familias dominan. La regularización penaliza los cambios en los pesos importantes para tareas anteriores; su exponente es Elastic Weight Consolidation (EWC, Kirkpatrick et al., 2017), que usa la información de Fisher para decidir qué pesos proteger, aunque sus penalizaciones se degradan al acumular muchas tareas. El repaso o replay reentrena con una muestra de datos antiguos, reales o generados; es eficaz, pero exige memoria y choca con la privacidad. Las arquitecturas dinámicas, como las Progressive Neural Networks, añaden módulos por cada tarea nueva; evitan la interferencia a costa de crecer sin límite y de necesitar saber a qué tarea pertenece cada entrada. Ninguna resuelve el problema en general.

Escenarios de evaluación

Comparar métodos exige fijar el escenario. Van de Ven y Tolias distinguen tres. En el task-incremental, el modelo aprende tareas separadas y siempre sabe, en test, ante qué tarea está. En el domain-incremental, la estructura del problema es la misma pero cambia la distribución de entrada, sin informar de la tarea. En el class-incremental, el más difícil, el modelo debe reconocer clases nuevas e inferir a cuál pertenece cada entrada, discriminando entre categorías que nunca vio juntas. En 2026, según la revisión de Wang y colaboradores, el aprendizaje continuo en los grandes modelos de lenguaje sigue siendo un problema abierto: el olvido persiste y se ataca con repaso y ajuste eficiente en parámetros, sin solución definitiva.