DeepMind abre DiffusionGemma, un modelo de texto hasta 4 veces más rápido

DeepMind ha presentado DiffusionGemma, un modelo experimental abierto que aplica la difusión a la generación de texto. En lugar de escribir palabra a palabra, como hacen los modelos de lenguaje habituales, trabaja sobre bloques completos de hasta 256 tokens —fragmentos de texto— y los refina en varias pasadas.

La compañía asegura que este enfoque alcanza hasta cuatro veces más velocidad de generación en una GPU dedicada. El anuncio importa menos por sustituir a los grandes modelos de lenguaje actuales que por explorar una alternativa para tareas donde la respuesta inmediata, la edición y la ejecución local pesan más que obtener la máxima calidad posible.

Un modelo de 26.000 millones de parámetros que activa 3.800 millones

DiffusionGemma es un modelo de mezcla de expertos, una arquitectura que reúne varios submodelos especializados pero activa solo una parte de ellos para cada operación. Tiene 26.000 millones de parámetros en total, aunque durante la inferencia activa 3.800 millones.

Esa diferencia reduce el coste de ejecutar el modelo. DeepMind afirma que, cuantizado —es decir, usando números de menor precisión para ahorrar memoria—, puede funcionar dentro de 18 GB de memoria de vídeo. Es una cifra que lo sitúa al alcance de ordenadores con tarjetas gráficas de gama alta, aunque no convierte la ejecución local en algo trivial: sigue requiriendo hardware especializado y una configuración adecuada.

Según los datos publicados por DeepMind, el modelo supera los 1.000 tokens por segundo en una NVIDIA H100 y los 700 tokens por segundo en una GeForce RTX 5090. Son mediciones en aceleradores concretos y no equivalen necesariamente a la velocidad que verá un usuario en cualquier aplicación: el rendimiento final depende de la longitud del texto, la cuantización, el software de inferencia y la carga de trabajo.

Del texto secuencial a la refinación en paralelo

Los asistentes convencionales generan texto de forma autorregresiva: predicen un token, lo añaden al contexto y repiten el proceso. Es un método eficaz y el estándar para obtener respuestas de alta calidad, pero obliga a esperar cada paso antes de producir el siguiente.

La difusión cambia esa mecánica. El modelo comienza con posiciones de texto sin resolver y las va corrigiendo de forma iterativa hasta construir una salida coherente. Al procesar un bloque entero, cada posición puede tener en cuenta las demás. Esta atención bidireccional puede resultar útil en tareas donde el orden lineal es una limitación: completar código en mitad de un archivo, editar una frase sin rehacer el resto, generar estructuras Markdown o resolver secuencias con restricciones globales.

DeepMind menciona también el rellenado de código, las secuencias de aminoácidos y los grafos matemáticos. Como demostración de ajuste fino, Unsloth ha adaptado el modelo para resolver sudokus, un problema en el que una decisión inicial depende de casillas que todavía no se han completado.

La velocidad no llega igual a todos los entornos

El principal matiz del lanzamiento está en dónde funciona esa ventaja. La generación paralela aprovecha mejor una GPU cuando atiende pocas peticiones, como ocurre en un equipo personal, una estación de trabajo o una aplicación interactiva para un solo usuario.

En servicios en la nube con miles de solicitudes, los modelos autorregresivos pueden agrupar muchas conversaciones en lotes y ocupar el hardware de forma eficiente. En ese escenario, la ventaja de DiffusionGemma disminuye y el coste de servir cada respuesta puede incluso aumentar. No es, por tanto, una solución universal para abaratar los chatbots masivos.

Tampoco pretende ser el modelo de mayor calidad de DeepMind. La propia compañía reconoce que su resultado general queda por debajo de los modelos Gemma 4 autorregresivos y recomienda estos últimos para usos de producción que exijan la mejor respuesta posible. DiffusionGemma prioriza velocidad y generación paralela, dos objetivos que todavía implican compromisos en texto abierto y complejo.

Pesos abiertos y un espacio para experimentar

Los pesos se publican bajo licencia Apache 2.0, una licencia permisiva que permite usar, modificar y distribuir el software con pocas restricciones. El modelo estará disponible en Hugging Face y contará con herramientas de ejecución mediante MLX, vLLM y Transformers de Hugging Face; DeepMind también adelanta soporte para llama.cpp.

La relevancia de DiffusionGemma reside en que traslada a los modelos de texto una idea popularizada por los generadores de imagen: producir una respuesta mediante refinamiento, no mediante una única cadena de predicciones. Si el enfoque demuestra calidad suficiente en edición, programación o interfaces locales, puede abrir una categoría de asistentes menos parecidos a una máquina de escribir y más capaces de revisar una página completa antes de entregarla.