Modelos generativos: qué aprenden, qué inventan y cuándo fallan

Reeditado el 30 de julio de 2026, este artículo corrige una equivalencia seductora: generar texto, imágenes o datos nuevos no demuestra razonamiento humano ni constituye una «llave maestra» hacia la inteligencia artificial general. Un modelo generativo aprende regularidades de un conjunto de datos y produce muestras según un objetivo y un procedimiento de muestreo. Lo decisivo es qué distribución aproxima, qué condiciones recibe y cómo se comprueba el resultado.

La generación sí puede aportar valor: comprimir patrones, proponer candidatos, simular casos y crear datos bajo ciertas condiciones. Pero una salida plausible puede ser falsa; una imagen realista puede representar una anatomía imposible; un dato sintético puede repetir sesgos o perder casos raros. Para juzgar cualquier promesa conviene seguir cinco elementos: objetivo, datos, condicionamiento, muestreo y evaluación.

Aprender una distribución no es guardar la verdad

Un modelo discriminativo suele estimar una salida a partir de una entrada, como una clase dada una imagen. Uno generativo intenta modelar cómo se distribuyen los datos o cómo aparece una variable condicionada por otra. La frontera no es absoluta: una misma arquitectura puede entrenarse con objetivos distintos, y un sistema puede combinar componentes generativos y discriminativos.

«Aprender la distribución» tampoco significa recuperar el proceso causal que produjo el mundo. El modelo recibe una muestra finita, filtrada y representada de una forma concreta. Puede capturar correlaciones suficientes para imitar ejemplos sin distinguir causa de coincidencia. Si el conjunto omite una población, contiene errores o sobrerrepresenta un estilo, la distribución aprendida hereda ese marco.

Por eso «nuevo» tiene un significado limitado. La salida no tiene que ser una copia literal, pero nace de parámetros ajustados a regularidades y decisiones previas. Novedad estadística, utilidad y verdad son propiedades diferentes. Una molécula no vista puede ser un candidato útil sin ser sintetizable; un relato original puede contener hechos inventados; una radiografía sintética puede parecer verosímil sin conservar la relación entre lesión y diagnóstico.

GAN, VAE, difusión y Transformer resuelven objetivos distintos

En el trabajo que introdujo las redes generativas adversarias, un generador aprende frente a un discriminador que intenta distinguir muestras reales de generadas. No es exactamente un juego de suma cero en cada implementación, ni garantiza muestras indistinguibles. El entrenamiento puede ser inestable y el generador puede cubrir solo partes de la distribución, fenómeno conocido como colapso de modos.

Los autoencoders variacionales combinan un modelo probabilístico latente con inferencia aproximada y optimizan un límite de la verosimilitud. El espacio latente facilita muestreo e interpolación, pero sus coordenadas no adquieren automáticamente conceptos humanos. Que una dirección cambie una característica visible no prueba que el modelo haya aislado la causa correspondiente.

Los modelos de difusión probabilística aprenden a revertir gradualmente un proceso de ruido. Su objetivo y trayectoria de muestreo difieren de GAN y VAE; hablar solo de «calidad de imagen» oculta velocidad, diversidad, control, coste y fidelidad a la condición. La familia indica un mecanismo de entrenamiento, no una garantía sobre cada producto.

El Transformer es una arquitectura basada en atención, no sinónimo de modelo generativo. GPT emplea un objetivo autorregresivo: predice el siguiente token y puede muestrear una secuencia. BERT enmascara tokens y aprende a recuperarlos para obtener representaciones útiles; no fue presentado como generador autorregresivo de texto continuo. Meter ambos en una misma categoría sin mencionar el objetivo borra la diferencia que explica su conducta.

Una salida convincente no demuestra razonamiento general

El artículo de GPT-3 mostró que aumentar escala podía mejorar el aprendizaje con pocos ejemplos en numerosas tareas de lenguaje, pero también documentó resultados irregulares y limitaciones. Producir una explicación coherente prueba que el sistema puede generar esa secuencia bajo ese contexto. No prueba por sí solo que haya construido el modelo causal correcto, que pueda actuar con seguridad o que transfiera la habilidad a cualquier dominio.

La palabra «razonamiento» necesita una prueba que descarte atajos. Hay que variar nombres, orden, formato y contenido superficial; reservar familias de problemas; pedir pasos verificables sin evaluar únicamente la retórica; y comparar con líneas base. Si la tarea está presente o casi duplicada en los datos, el resultado puede reflejar recuperación o patrón aprendido. Si el juez es otro modelo, también hay que validar al juez.

Condicionar una generación añade información y control, pero no convierte el sistema en un agente autónomo. Una indicación de texto, una clase, una imagen o una estructura parcial acotan el espacio de salida. Herramientas, búsqueda, memoria y filtros pueden mejorar el producto. El informe debe decir cuál fue la unidad evaluada: modelo solo, canal de muestreo seleccionado o sistema completo con intervención humana.

Datos sintéticos: multiplicar ejemplos no crea evidencia nueva

Los datos sintéticos pueden ser útiles cuando el simulador expresa reglas conocidas, cuando permiten cubrir situaciones peligrosas de obtener o cuando protegen ciertos atributos bajo un análisis de privacidad. También pueden equilibrar clases o ensayar una canalización. El valor depende de que el proceso generador preserve justo las relaciones necesarias para la tarea posterior.

No basta con que las muestras «parezcan reales». En medicina se necesitan relaciones clínicas y validación en pacientes reales; en conducción, dinámica, sensores y conductas raras; en fraude, adaptación de adversarios. Entrenar y probar dentro del mismo generador puede producir un circuito cerrado: el sistema aprende las convenciones del simulador y el examen recompensa esas convenciones.

El estudio de colapso de modelos entrenados recursivamente con datos generados mostró un problema estructural: reemplazar progresivamente datos originales por salidas de modelos puede hacer que se pierdan las colas de la distribución y el modelo se aleje de los datos reales. No significa que todo dato sintético sea dañino. Significa que su procedencia, proporción y relación con evidencia humana u observada deben registrarse.

La comprobación correcta compara al menos tres condiciones: datos reales; reales más sintéticos; y un control con la misma cantidad y presupuesto. Se evalúa sobre un conjunto real separado, con subgrupos y casos raros. Además se busca memorización, duplicados, filtración de información del objetivo y cambios de calibración. Si solo mejora una métrica dentro del simulador, la afirmación debe quedarse dentro de ese simulador.

Cómo auditar una afirmación generativa

Empiece por el objetivo. ¿El sistema predice el siguiente elemento, reconstruye, separa real de falso o elimina ruido? Después describa los datos: origen, fecha, permisos, filtros, duplicados y ausencias. Anote el condicionamiento y la interfaz. Por último, registre el muestreo: temperatura, número de intentos, selección, semilla y filtros posteriores. Cambiar cualquiera de esos factores puede cambiar el resultado que ve el público.

La evaluación debe corresponder al uso. Para texto factual: exactitud y trazabilidad, no solo fluidez. Para imagen: relación con la instrucción, diversidad y fallos semánticos, no solo realismo. Para datos sintéticos: utilidad downstream y fidelidad de propiedades relevantes en un conjunto real retenido. Para moléculas o diseños: restricciones físicas y validación experimental. Una preferencia humana aislada no sustituye estas pruebas.

Después separe tres afirmaciones. «Genera una muestra plausible» describe el producto. «Ha aprendido una representación transferible» exige tareas nuevas. «Avanza hacia IAG» exige primero una definición de generalidad y una evaluación de adaptación, recursos y autonomía. La tercera no se deduce de las dos primeras.

Los modelos generativos son instrumentos poderosos de representación y búsqueda, pero no una fuente autónoma de verdad ni una ruta probada hacia la IAG. La capacidad transferible es leer cualquier demostración mediante objetivo, datos, condicionamiento, muestreo y evaluación. Ese mapa deja celebrar una mejora real y, al mismo tiempo, detectar cuándo la plausibilidad visual o verbal está ocupando el lugar de la evidencia.