Autoencoders

Un autoencoder (autocodificador) es una red neuronal que aprende a reconstruir su propia entrada. En lugar de clasificar o predecir una etiqueta externa, su objetivo es copiar los datos que recibe en la salida, pero con una trampa deliberada: por el camino la información debe atravesar un cuello de botella, una capa intermedia mucho más pequeña que la entrada. Esa restricción impide que la red memorice y la obliga a quedarse solo con lo esencial.

Como la señal que se intenta reproducir es la propia entrada, no hacen falta etiquetas humanas: se trata de aprendizaje auto-supervisado (o no supervisado). El error de reconstrucción —típicamente el error cuadrático medio entre la entrada y la salida— es lo único que guía el entrenamiento.

Codificador, decodificador y el código latente

Todo autoencoder tiene dos mitades. El codificador comprime la entrada en una representación de menor dimensión, el llamado código o vector latente. El decodificador hace el camino inverso: a partir de ese código intenta reconstruir la entrada original. Si la reconstrucción es buena pese a haber pasado por un espacio reducido, significa que el código ha capturado la estructura esencial de los datos. En 2006, Geoffrey Hinton y Ruslan Salakhutdinov mostraron en la revista Science que autoencoders profundos podían aprender códigos de baja dimensión mucho más útiles que los del análisis de componentes principales (PCA).

Para qué sirven: reducción de dimensiones, denoising y anomalías

Su uso más clásico es la reducción de dimensionalidad: como pariente no lineal del PCA, un autoencoder proyecta datos complejos en unas pocas variables para comprimirlos o visualizarlos. Una variante, el autoencoder de eliminación de ruido (denoising), se entrena con entradas deliberadamente corrompidas y aprende a devolver la versión limpia; Pascal Vincent y sus colegas lo formalizaron en 2008. Y como la red solo reconstruye bien lo que se parece a lo que ya ha visto, resulta natural para la detección de anomalías: aquello que se reconstruye con mucho error se marca como raro, útil en fraude o mantenimiento predictivo. Reducción de dimensionalidad y detección de anomalías tienen ficha propia en este glosario.

La variante generativa: el autoencoder variacional

El autoencoder clásico comprime, pero no está pensado para inventar datos nuevos. Esa capacidad llegó con el autoencoder variacional (VAE), propuesto por Diederik Kingma y Max Welling en 2013. En vez de un único código, su codificador aprende toda una distribución de probabilidad en el espacio latente; muestreando de ella, el decodificador genera ejemplos verosímiles que no estaban en los datos originales. Por eso el VAE se considera un modelo generativo, emparentado con las GAN, y merece su propia entrada en este glosario. Casi dos décadas después, los autoencoders siguen siendo una de las ideas más elegantes del aprendizaje de representaciones: enseñar a una máquina a entender los datos pidiéndole, simplemente, que los vuelva a dibujar.