Máquinas de Boltzmann

Una máquina de Boltzmann es un tipo de red neuronal recurrente, estocástica y generativa, basada en energía: sus unidades son binarias y se activan de forma probabilística, y el modelo define una energía sobre sus configuraciones y, a partir de ella, una distribución de probabilidad. La propusieron Geoffrey Hinton y Terry Sejnowski a mediados de los años ochenta, y su nombre remite a la distribución de Boltzmann de la física estadística.

Estructura

Tiene dos grupos de unidades: las visibles, que representan los datos, y las ocultas, que capturan regularidades latentes, con conexiones simétricas entre ellas. La máquina de Boltzmann general, con todas las unidades conectadas, es muy difícil de entrenar: el coste crece de forma inmanejable con su tamaño.

La versión práctica: la RBM

La variante útil es la máquina de Boltzmann restringida (RBM), que limita las conexiones a un grafo bipartito —visibles con ocultas, sin conexiones dentro de cada grupo—, lo que hace el entrenamiento tratable mediante un método llamado divergencia contrastiva. Hacia 2006-2012, apilando estas máquinas se construían redes profundas de creencia, que servían para preentrenar redes neuronales; también se usaron en sistemas de recomendación.

Un hito histórico, hoy en desuso

Conviene situarlas con honestidad: las máquinas de Boltzmann fueron muy influyentes —introdujeron los modelos basados en energía en el aprendizaje profundo y ayudaron a arrancar su auge—, pero hoy están en gran medida en desuso para la mayoría de tareas. Las han desplazado otras arquitecturas generativas, como los autoencoders variacionales, las GAN o los modelos de difusión, y el entrenamiento directo de redes profundas, que hizo innecesario aquel preentrenamiento. Conservan valor como hito conceptual.