Reinicio Coseno
El reinicio coseno, o cosine annealing with warm restarts (SGDR), es una estrategia para planificar la tasa de aprendizaje durante el entrenamiento: combina un decaimiento en forma de coseno con reinicios periódicos que ayudan a escapar de mínimos locales. Explicamos cómo funciona, por qué se usa y sus parámetros.