Modelos de Tópicos

Los modelos de tópicos son algoritmos de aprendizaje no supervisado que descubren de forma automática los «temas» latentes que recorren una colección grande de documentos, analizando qué palabras aparecen juntas y sin necesidad de datos etiquetados. Sirven para poner orden en corpus de texto que serían inabarcables a mano.

La idea central

El modelado de tópicos descansa en una estructura probabilística doble: cada tópico es una distribución de probabilidad sobre las palabras del vocabulario (el tópico «economía» dará mucho peso a «mercado», «precio» o «inflación»), y cada documento es una mezcla de tópicos en distintas proporciones. Un mismo texto puede hablar un 70 % de política y un 30 % de tecnología.

El modelo canónico y sus antecedentes

El modelo de referencia es LDA (Latent Dirichlet Allocation), presentado por David Blei, Andrew Ng y Michael Jordan en 2003. Sus autores lo describían como «un modelo probabilístico generativo para colecciones de datos discretos, como los corpus de texto». Antes existieron dos antecedentes clave, nacidos en la recuperación de información: el LSA/LSI (Deerwester y colaboradores, 1990), basado en álgebra lineal (descomposición en valores singulares) y no probabilístico, y el pLSA de Thomas Hofmann (1999), que ya introdujo variables latentes de tópico.

Cómo se interpretan y para qué sirven

Un tópico se interpreta mirando sus palabras más probables, y de ahí el analista le pone una etiqueta. Se usan para organizar y explorar grandes archivos documentales, descubrir tendencias temáticas y apoyar la recuperación de información. Conviene recordar una advertencia clásica —planteada por Chang y colaboradores en 2009, en un trabajo titulado «Reading Tea Leaves»—: las métricas automáticas de calidad no siempre coinciden con lo que una persona considera un tópico coherente, así que la interpretación exige criterio humano.

Del LDA a los transformers

El LDA sigue vigente donde importan la explicabilidad y el bajo coste de cómputo, pero el panorama ha cambiado. Los enfoques recientes, como BERTopic (2022), representan cada documento con embeddings generados por modelos de lenguaje basados en transformers, los agrupan y derivan de ahí los tópicos; suelen manejar mejor los textos cortos y capturar el contexto y la semántica, algo fuera del alcance del conteo de palabras del LDA clásico.