GRU

La GRU (Gated Recurrent Unit, unidad recurrente con puertas) es un tipo de unidad para redes neuronales recurrentes que emplea un mecanismo de «puertas» para controlar qué información conservar y cuál descartar a medida que procesa una secuencia. Ese control ayuda a la red a capturar dependencias de largo alcance y a mitigar el problema del desvanecimiento del gradiente que aquejaba a las redes recurrentes simples.

De dónde viene

La introdujeron Kyunghyun Cho y sus colaboradores en 2014, en un trabajo sobre traducción automática con arquitectura codificador-decodificador. Su nombre, «unidad recurrente con puertas», se consolidó ese mismo año en un estudio posterior que la comparó con otras unidades.

Cómo funciona

La GRU tiene dos puertas. La puerta de actualización decide cuánta información del pasado se conserva y cuánta se reemplaza por la nueva. La puerta de reinicio decide cuánto del estado anterior se ignora al calcular la información candidata. Con esas dos compuertas, la unidad regula por sí sola su memoria a corto y largo plazo.

Frente a la LSTM

La GRU es, en esencia, una versión simplificada de la LSTM (Long Short-Term Memory, de Hochreiter y Schmidhuber, 1997). La LSTM tiene tres puertas y un estado de celda de memoria separado; la GRU se las arregla con dos puertas y sin ese estado de celda aparte, lo que le da menos parámetros y, a menudo, un entrenamiento más rápido. En cuanto a rendimiento, ambas son comparables y cuál gana depende de la tarea: no hay un vencedor universal.

Su lugar hoy

Conviene situarla con honestidad. Durante años, las GRU y las LSTM fueron la herramienta estándar para modelar secuencias —series temporales, procesamiento del lenguaje, reconocimiento de voz—. Pero desde la aparición de los transformers en 2017, estas arquitecturas recurrentes han quedado en gran medida desplazadas en el procesamiento del lenguaje, al ceder terreno ante un modelo que procesa la secuencia en paralelo y captura mejor las dependencias largas. La GRU conserva valor donde importan la simplicidad y la eficiencia.