Curriculum Learning

Curriculum learning es una estrategia de entrenamiento que presenta los ejemplos a un modelo en un orden significativo —habitualmente de más fáciles a más difíciles— en lugar del muestreo aleatorio habitual. Yoshua Bengio, Jérôme Louradour, Ronan Collobert y Jason Weston formalizaron y dieron nombre a esta estrategia en ICML 2009; su artículo comparó el orden progresivo con la educación humana y el adiestramiento animal, pero remontó la idea de entrenar empezando por lo pequeño al menos a Elman (1993).

La hipótesis original es doble: un orden creciente de dificultad puede acelerar la convergencia y ayudar a la optimización no convexa a esquivar mínimos locales pobres. Bengio lo describió como una forma de método de continuación, que parte de una versión suavizada del problema y la endurece de forma progresiva.

Cómo se mide la dificultad

El punto delicado es definir qué ejemplo es «fácil». Hay dos familias de respuestas. La primera usa heurísticas fijadas de antemano: la longitud de una frase o secuencia, el número de objetos en una imagen, el nivel de ruido o etiquetas difíciles anotadas a mano. La segunda deja que decida el propio modelo: en el self-paced learning de Kumar, Packer y Koller (2010), en cada iteración se seleccionan como fáciles los ejemplos de menor pérdida y un peso se relaja gradualmente hasta incorporar todo el conjunto. En aprendizaje por refuerzo, el esquema profesor-alumno de Matiisen y colaboradores prioriza las tareas donde el agente progresa más rápido, medido por la pendiente de su curva de aprendizaje. En estudios controlados la dificultad se ha cuantificado con la pérdida de un modelo de referencia o con un «c-score» de consistencia.

Cuándo ayuda y cuándo no

La evidencia es mixta y conviene decirlo sin adornos. El trabajo de Wu y colaboradores (ICLR 2021) mostró que, en conjuntos de datos estándar y limpios, un orden aleatorio rinde igual o mejor que el currículum, y que buena parte de la mejora atribuida al orden procede en realidad de aumentar el tamaño del conjunto de entrenamiento de forma dinámica. Los beneficios se vuelven claros en dos situaciones: cuando el presupuesto de entrenamiento es corto y cuando los datos son ruidosos. Con modelos grandes o tareas fáciles, ordenar los ejemplos puede no aportar nada e incluso ralentizar. El orden inverso —anti-curriculum, lo difícil primero— no suele ayudar en esos experimentos controlados, aunque otros estudios lo han encontrado competitivo en escenarios concretos; la cuestión sigue abierta.

Dónde se usa

Curriculum learning se aplica sobre todo en tres terrenos. En visión por computador, graduando la complejidad de las imágenes; en procesamiento de lenguaje natural, avanzando de textos cortos y frecuentes a construcciones más largas; y en aprendizaje por refuerzo, donde encadenar subtareas de dificultad creciente permite abordar problemas que el entrenamiento directo no resuelve, como mostró el marco profesor-alumno en tareas de navegación. La encuesta de Petru Soviany y colaboradores, enviada en 2021, documenta aplicaciones en muchas tareas, pero identifica dos límites prácticos recurrentes: ordenar de forma fiable los ejemplos de fáciles a difíciles y escoger el ritmo adecuado para introducir los más difíciles.