Aprendizaje por Transferencia

El aprendizaje por transferencia (transfer learning) es la técnica de aprendizaje automático que reutiliza el conocimiento adquirido por un modelo en una tarea o dominio de origen para resolver otra tarea relacionada, el dominio de destino, en lugar de entrenar desde cero. El estudio de referencia del campo, firmado por Sinno Jialin Pan y Qiang Yang en IEEE Transactions on Knowledge and Data Engineering (2010), formalizó la idea y ese vocabulario de origen y destino que se sigue usando hoy.

Su motivación es práctica: los datos etiquetados son caros y escasos en muchos problemas reales, mientras que las representaciones aprendidas en tareas con datos abundantes a menudo son reutilizables.

Cómo se practica: preentrenar y afinar

El patrón dominante es el preentrenamiento seguido de ajuste fino (fine-tuning). En visión por computador, las redes convolucionales preentrenadas con ImageNet se convirtieron en el punto de partida habitual para nuevas tareas de imagen; en lenguaje, BERT y GPT consolidaron la misma receta: un modelo preentrenado con texto masivo sin etiquetar se adapta después a clasificación, traducción o búsqueda de respuestas. Una alternativa más ligera es la extracción de características, que congela las capas preentrenadas y solo entrena un clasificador pequeño encima.

La era de los modelos fundacionales y el PEFT

Los modelos fundacionales —término acuñado por Rishi Bommasani y colegas en el informe de Stanford de 2021 On the Opportunities and Risks of Foundation Models— son aprendizaje por transferencia a escala: un único modelo entrenado con datos amplios se adapta a un abanico enorme de tareas posteriores. El mismo informe advierte que los defectos del modelo base los heredan todos los modelos adaptados a partir de él.

Afinar todos los pesos de un modelo de decenas o cientos de miles de millones de parámetros resulta prohibitivo, y de ahí el auge del fine-tuning eficiente en parámetros (PEFT). LoRA (Hu et al., 2021) congela los pesos preentrenados e inyecta matrices entrenables de bajo rango: en GPT-3, de 175.000 millones de parámetros, redujo los parámetros entrenables unas 10.000 veces y la memoria de GPU a un tercio, con resultados equiparables o mejores que el ajuste completo. Los adapters (Houlsby et al., 2019) insertan módulos pequeños —en torno al 3,6% de parámetros por tarea— quedándose a 0,4 puntos del fine-tuning completo en GLUE, y el prompt tuning (Lester et al., 2021) aprende «prompts blandos» sobre un modelo congelado y se vuelve competitivo cuando el modelo supera los miles de millones de parámetros.

Cuándo funciona y cuándo no

La ganancia no es universal: depende de la similitud entre origen y destino, de cuántos datos tiene la tarea final y de la capacidad del modelo. Cuando los dominios están poco relacionados, transferir puede empeorar el resultado frente a entrenar desde cero: es la transferencia negativa, documentada en el survey de Wen Zhang, Lingfei Deng, Lei Zhang y Dongrui Wu (IEEE/CAA Journal of Automatica Sinica, 2022), que la atribuye sobre todo a la divergencia entre dominios y a la calidad y cantidad de los datos de origen, y repasa medio centenar de técnicas para estimar la similitud entre dominios o transferir de forma segura. Predecir a priori cuánto ayudará una transferencia concreta sigue siendo un problema abierto.