Redes Neuronales de Crecimiento Adaptativo
Arquitecturas que no fijan su tamaño de antemano, sino que añaden neuronas o capas durante el entrenamiento. El rótulo es poco estándar: la familia real son las redes neuronales constructivas, de la Cascade-Correlation a la búsqueda de arquitecturas.
Bajo el rótulo redes neuronales de crecimiento adaptativo se agrupan arquitecturas que no fijan de antemano cuántas neuronas tendrán, sino que añaden unidades durante el entrenamiento a medida que el problema lo exige. No designa un algoritmo único: en la literatura aparecen redes constructivas o crecientes y métodos con reglas propias. Un trabajo de 2022 denomina neurogénesis en redes neuronales al problema de decidir cuándo, dónde y cómo incorporar esas unidades.
La motivación es práctica. En una red convencional hay que decidir a mano el tamaño: demasiado pequeña, no aprende; demasiado grande, malgasta cómputo y tiende al sobreajuste. Las redes constructivas invierten el planteamiento: empiezan mínimas y crecen solo cuando el error lo justifica.
La idea: dejar que la red crezca
En lugar de escoger la topología antes de ver los datos, estos métodos parten de una red diminuta y vigilan el error. Cuando el aprendizaje se estanca, un criterio decide añadir una neurona o una capa, se reanuda el entrenamiento y el ciclo se repite. Así la estructura se ajusta a la dificultad real de la tarea, en vez de imponerse por conjetura.
De los métodos clásicos a los actuales
La familia incluye métodos como Cascade-Correlation, que empieza con una red mínima, agrega unidades ocultas una a una y congela sus pesos de entrada; y el algoritmo adaptativo de fusión y crecimiento, que ajusta la estructura combinando crecimiento y fusión. Son ejemplos de la familia, no una taxonomía cerrada.
Límites y preguntas abiertas
Crecer no sale gratis. Persisten preguntas decisivas: cuándo añadir capacidad, dónde colocarla, cómo inicializarla y cuándo parar. Maile y sus coautores describieron en 2022 la adición de neuronas como un problema difícil y poco estudiado, y separaron las decisiones de cuándo activar el crecimiento, en qué capa hacerlo y cómo inicializar la unidad nueva. Crecer de más puede reintroducir el sobreajuste que se quería evitar, de modo que la validación y la parada temprana siguen siendo parte de la explicación. El paper propone estrategias concretas; no una regla universal para toda arquitectura y conjunto de datos.
Este artículo se ha elaborado con inteligencia artificial bajo supervisión editorial humana.