Transferencia y multitarea: cómo saber si compartir conocimiento ayuda

Esta guía, revisada el 30 de julio de 2026, comienza con una comparación que muchas afirmaciones sobre inteligencia artificial general (AGI) omiten. Si un modelo entrenado para una tarea aprende otra con 100 ejemplos, ¿lo hace mejor que el mismo modelo inicializado al azar con esos 100 ejemplos? ¿Y mantiene la primera habilidad? Sin esas referencias, «transfiere conocimiento» puede significar solamente que se reutilizaron parámetros.

Transferencia, aprendizaje multitarea y meta-aprendizaje intentan aprovechar relaciones entre problemas, pero no son sinónimos ni garantizan una mejora. Compartir puede acelerar, no afectar o perjudicar. La capacidad útil para el lector será construir una matriz de comparaciones que haga visible la transferencia positiva, la negativa y el coste de adaptación.

Tres configuraciones que conviene separar

En transferencia secuencial, un modelo aprende primero una tarea o dominio de origen y después se adapta a un destino. Puede congelarse parte de la red, ajustar todos los parámetros o añadir módulos. La pregunta es cuánto mejora el destino respecto a entrenarlo sin ese origen, bajo el mismo presupuesto. También importa si el origen se conserva o si la adaptación lo degrada.

En aprendizaje multitarea, varias pérdidas se optimizan durante el mismo entrenamiento. Una arquitectura habitual comparte un tronco y mantiene una cabeza por tarea. No «paraleliza» por definición: el rasgo esencial es que las actualizaciones de varias tareas afectan parámetros comunes. El trabajo clásico de Rich Caruana sobre multitarea lo formuló como aprendizaje en paralelo mediante una representación compartida que puede permitir que una tarea ayude a otra.

En meta-aprendizaje, la unidad de entrenamiento es una distribución de tareas. MAML aprende una inicialización diseñada para que unas pocas actualizaciones con pocos datos de una nueva tarea produzcan buen rendimiento. Eso prueba adaptación rápida dentro de la familia evaluada, no que el sistema pueda aprender cualquier tarea ni que se acerque automáticamente a AGI.

La referencia mínima: cuatro modelos, no uno

Para saber si existe transferencia se necesitan al menos cuatro condiciones. La primera entrena el destino desde cero. La segunda adapta el modelo de origen al destino. La tercera entrena conjuntamente origen y destino. La cuarta conserva solo el modelo de origen para medir cuánto olvida después. Capacidad, datos disponibles, pasos de optimización y búsqueda de hiperparámetros deben compararse con justicia.

La transferencia positiva aparece cuando la adaptación o la multitarea mejora la métrica del destino, reduce ejemplos o acelera la convergencia sin un coste inaceptable en origen. La transferencia negativa aparece cuando compartir deja al destino peor que su referencia independiente. Una media entre tareas puede ocultarla: si una tarea sube diez puntos y otra baja ocho, el promedio positivo no significa que ambas se beneficiaron.

Conviene dibujar curvas de rendimiento frente a número de ejemplos y cómputo, no informar solo el resultado final. Un origen puede ayudar mucho con pocos datos y perder su ventaja al crecer el conjunto destino; otro puede acelerar el inicio pero converger a un techo inferior. «Necesita menos datos» solo es defendible si la curva usa los mismos ejemplos, divisiones y proceso de selección.

La relación entre tareas se mide, no se presupone

Dos tareas pueden compartir entradas y, aun así, exigir invariancias opuestas. Reconocer identidad puede querer ignorar iluminación; estimarla necesita conservarla. La cercanía verbal de las etiquetas tampoco basta. Taskonomy estudió experimentalmente dependencias de transferencia entre 26 tareas visuales y construyó un mapa computacional de relaciones. El hallazgo metodológico importa más que una arista concreta: la afinidad se estima mediante experimentos de origen y destino.

Hay medidas que intentan anticipar si una representación servirá antes de completar todo el ajuste. LEEP calcula una puntuación a partir de las predicciones del modelo de origen sobre datos etiquetados del destino y la contrasta con rendimiento posterior. Es una herramienta para seleccionar candidatos dentro de las condiciones estudiadas, no un sustituto universal de entrenar y validar. Una puntuación alta tampoco resuelve cambios de distribución futuros.

Interferencia: cuando las tareas tiran en direcciones distintas

En una red compartida, cada pérdida produce un gradiente sobre los parámetros comunes. Si dos gradientes apuntan en direcciones compatibles, una actualización puede ayudar a ambas. Si su producto escalar es negativo, mejorar una localmente puede perjudicar a la otra. La magnitud también importa: una tarea con escala de pérdida o dificultad mayor puede dominar aunque no sea prioritaria.

GradNorm ajusta dinámicamente pesos para equilibrar magnitudes de gradiente y velocidades de entrenamiento entre tareas. PCGrad proyecta un gradiente cuando entra en conflicto con el de otra tarea. Ambos trabajos existen porque dropout o normalización por lotes no resuelven por sí solos el equilibrio multitarea. Regularizar puede reducir sobreajuste, pero no decide qué objetivo debe ceder.

Una auditoría sencilla registra por tarea su pérdida, métrica, norma del gradiente y coseno entre gradientes a lo largo del entrenamiento. El diagnóstico no exige que todo coseno negativo sea un fallo: la optimización puede atravesar conflictos útiles. Sí permite localizar cuándo una tarea deja de progresar al introducir otra y comprobar si cambiar pesos, frecuencia de muestreo o parámetros compartidos corrige el daño.

Los pesos de pérdida son una decisión de producto

Si la pérdida total es una suma ponderada, los pesos expresan un compromiso. Igualar números no equivale a igualar importancia, porque métricas, ruido y velocidades difieren. Un sistema que predice profundidad y segmentación puede aceptar un intercambio que sería intolerable entre detección de fraude y falsos bloqueos de usuarios.

«Multi-Task Learning as Multi-Objective Optimization» formula el problema con varios objetivos y busca una solución de Pareto: no puede mejorar uno sin empeorar al menos otro. La idea ofrece una pregunta duradera para cualquier resultado: ¿qué puntos de compromiso se exploraron y quién eligió el publicado? Una única puntuación agregada puede esconder alternativas más adecuadas para el uso real.

Qué compartir: tronco, capas, módulos o nada

El compartido duro usa los mismos parámetros para parte de la red y cabezas separadas al final. Ahorra memoria y fuerza una representación común, pero puede imponer similitud donde no existe. El compartido blando mantiene parámetros por tarea y penaliza su distancia o intercambia información mediante módulos. Cuesta más, aunque permite especialización.

La comparación debe incluir modelos independientes con una capacidad total comparable. Si el multitarea tiene muchos más parámetros o ve más ejemplos, una mejora no se atribuye solo al conocimiento compartido. También conviene hacer ablaciones: compartir hasta distintas capas, retirar una tarea auxiliar y variar su proporción de datos. La tarea auxiliar que nunca se usa en producción puede ser valiosa si mejora el objetivo principal, pero esa contribución debe demostrarse frente a la misma arquitectura sin ella.

Adaptación rápida no es transferencia abierta

MAML y otros métodos meta-aprendidos separan tareas de meta-entrenamiento y meta-prueba. La división es crítica. Si ambas partes cambian únicamente etiquetas o parámetros superficiales dentro de la misma plantilla, el resultado demuestra adaptación dentro de esa distribución. Para sostener una afirmación más amplia hay que retener familias, dominios o mecanismos relevantes, y declarar cuántos ejemplos y pasos usa la adaptación.

El modelo también puede aprender el formato del examen. Por eso hacen falta referencias que no recibieron meta-entrenamiento, tareas fuera de distribución y análisis de sensibilidad al soporte elegido. Si el beneficio desaparece al cambiar la forma de presentar los pocos ejemplos, la capacidad puede depender del protocolo más que de una regla transferible.

La matriz que revela ayuda y daño

Para N tareas, las filas pueden representar el origen o conjunto de tareas compartidas y las columnas cada destino. En cada celda se anota rendimiento desde cero, con transferencia, diferencia, ejemplos, cómputo y resultado retenido en origen. La diagonal muestra entrenamiento individual; las celdas cruzadas revelan dirección. Transferir de A a B no implica que B ayude a A.

Después se repite la matriz bajo cambios de dominio y con varias semillas. Un único promedio no basta cuando la selección de origen, el orden de tareas o la inicialización cambia la conclusión. También deben aparecer coste de almacenamiento, latencia y mantenimiento: un modelo multitarea ligeramente peor puede ser útil si reemplaza varios sistemas, pero eso es una decisión operativa explícita, no una victoria de precisión.

La capacidad transferible es exigir una diferencia contra una referencia independiente por cada tarea, junto con curvas de datos, retención y pruebas fuera de dominio. Compartir parámetros es un mecanismo; transferencia positiva es un resultado. Solo cuando la matriz muestra ayuda repetida sin daños ocultos puede hablarse de conocimiento reutilizable, y aun entonces no de inteligencia general por decreto.