Mistral convierte el modelo abierto en una decisión de infraestructura

El 2 de diciembre de 2025, Mistral AI presentó una familia que obliga a separar tres ideas que suelen viajar juntas: que un modelo tenga muchos parámetros, que use pocos en cada respuesta y que sus pesos puedan descargarse. El anuncio de Mistral 3 incluye Mistral Large 3, una mezcla de expertos con 675.000 millones de parámetros totales y 41.000 millones activos, y tres modelos densos Ministral de 3.000, 8.000 y 14.000 millones. Toda la familia se distribuye con licencia Apache 2.0.

Para una organización, la noticia útil no es que exista otro modelo grande. Es que esas tres cifras describen decisiones distintas. Los parámetros activos se relacionan con el cálculo que interviene en cada paso; los totales condicionan cuánto hay que almacenar y mover; la licencia determina qué se puede modificar y redistribuir. Ninguna cifra, por sí sola, responde si el sistema cabrá en el equipo, mantendrá la latencia exigida o dará respuestas correctas en el trabajo real.

Total y activo no son dos formas de medir lo mismo

Un modelo denso aplica todo su conjunto de pesos en cada token. Una mezcla de expertos divide parte de la red en bloques y un mecanismo de enrutamiento selecciona algunos para cada entrada. Por eso Large 3 puede declarar 675.000 millones de parámetros totales y 41.000 millones activos. La segunda cifra ayuda a entender el cálculo por token, pero no convierte el modelo en un archivo de 41.000 millones de parámetros.

La ficha del modelo publicada por Mistral desglosa aproximadamente 673.000 millones de parámetros en el modelo de lenguaje, 39.000 millones activos, y un codificador visual de 2.500 millones. La diferencia con las cifras redondeadas del anuncio no es una contradicción que deba resolverse escogiendo el número más vistoso: muestra por qué conviene leer la arquitectura y no solo el titular comercial.

Una estimación inicial de memoria consiste en multiplicar parámetros por bits y dividir entre ocho, pero solo ofrece un suelo. Los pesos de 675.000 millones ocuparían alrededor de 1,35 terabytes en dieciséis bits o unos 337,5 gigabytes en cuatro bits, antes de contar metadatos, caché de atención, activaciones, búferes y sobrecostes del motor. La mezcla de expertos reduce el trabajo realizado por token; no borra la obligación de alojar o repartir el conjunto de expertos que puede necesitar el enrutador.

La cuantización cambia el presupuesto y también el modelo

Mistral publicó un checkpoint NVFP4 y afirmó que Large 3 podía servirse mediante vLLM en un nodo con ocho GPU A100 u ocho H100. Esa frase describe una configuración compatible, no una garantía universal. El contexto solicitado, el número de usuarios simultáneos, la longitud de salida, el lote y la variante concreta pueden mover la memoria, la latencia y el rendimiento.

Cuantizar significa representar los pesos con menos bits. Reduce memoria y tráfico entre procesadores, pero puede alterar la calidad. La propia documentación de Large 3 identifica un contexto de 256.000 tokens, mientras la ficha de Hugging Face aconseja reducir la longitud máxima cuando no sea necesaria para conservar memoria. Anunciar una ventana no demuestra que usarla completa sea barato, rápido ni igual de preciso.

La prueba correcta compara la misma tarea en la misma versión: BF16, FP8 o NVFP4; misma plantilla de conversación; mismo motor; mismo conjunto de entradas; y límites iguales de contexto y salida. Hay que medir respuestas aceptables por euro y por minuto, no tokens aislados por segundo. Una cuantización que duplica la velocidad pero aumenta las revisiones humanas puede ser más cara.

Apache permite mucho, pero no publica lo que no está publicado

El texto de Apache 2.0 concede derechos amplios para usar, reproducir, modificar y distribuir la obra y sus derivados, con condiciones de licencia, avisos y atribución. También incluye una licencia de patentes de los colaboradores dentro de su alcance. Es una base permisiva para uso comercial, adaptación y redistribución; no es una promesa de soporte, ausencia de errores ni adecuación a un propósito.

“Pesos abiertos” y “sistema reproducible” tampoco son sinónimos. En la fecha del lanzamiento podían descargarse pesos, versiones base y ajustadas a instrucciones, formatos comprimidos y fichas de modelo. Esos materiales permiten inspeccionar y ejecutar mucho más que una API cerrada. Sin embargo, las fuentes del lanzamiento no aportaban el corpus completo de entrenamiento ni una receta integral con la que un tercero pudiera reconstruir Large 3 desde cero. La licencia dice qué derechos acompañan a los artefactos publicados; no crea datos o documentación que no se hayan publicado.

La versión base y la instruct sirven además para trabajos diferentes. La primera es el punto de partida natural para adaptación profunda; la segunda ya ha recibido posentrenamiento para conversación y seguimiento de instrucciones. Evaluar una y desplegar la otra invalida la comparación. El nombre del repositorio, la revisión, el formato de pesos, el tokenizador, la plantilla y el motor deben quedar fijados como parte del sistema.

El modelo pequeño puede ser la opción más ambiciosa

Los Ministral densos cubren otra clase de problema. Mistral publicó tamaños de 3.000, 8.000 y 14.000 millones de parámetros, cada uno en variantes base, instruct y de razonamiento, con entrada de imágenes. Un equipo que necesita baja latencia, funcionamiento local o aislamiento de datos puede obtener más valor de un modelo pequeño bien evaluado que de Large 3 servido a distancia.

“Local” no significa automáticamente privado. Una aplicación puede seguir enviando registros, consultas o telemetría a servicios externos; también puede conservar datos sin controles adecuados. La privacidad se demuestra siguiendo el recorrido completo de la información: entrada, memoria temporal, registros, copias, herramientas conectadas y salida. La descarga de los pesos solo elimina una dependencia posible.

La capacidad multilingüe requiere la misma cautela. Mistral declaró soporte para decenas de lenguas y citó español entre ellas, pero una etiqueta de idioma no garantiza terminología jurídica, sanitaria o técnica fiable. La evaluación debe incluir documentos reales del dominio, variedades lingüísticas relevantes y fallos costosos, no únicamente conversaciones generales.

Una ficha de compra que sigue sirviendo mañana

Antes de escoger un modelo descargable, conviene responder cinco preguntas. Primera: ¿qué artefacto exacto se evalúa y qué permite su licencia? Segunda: ¿cuánta memoria consume con el contexto, concurrencia y motor reales? Tercera: ¿qué calidad conserva después de cuantizar? Cuarta: ¿cuánto cuesta cada tarea aceptada, incluida la revisión humana? Quinta: ¿puede repetirse la prueba en otro motor o proveedor sin reconstruir toda la aplicación?

El registro de la prueba debe conservar URL y revisión de los pesos, licencia, hashes, tokenizador, plantilla, parámetros de inferencia, hardware y conjunto de evaluación. Así se distingue una mejora del modelo de un cambio invisible en la infraestructura. También crea una salida: si el proveedor, el precio o el motor cambian, el equipo sabe qué debe reproducir.

La lección transferible de Mistral 3 es leer una ficha de modelo como un plano de despliegue. Los parámetros activos anticipan parte del cálculo; los totales, parte del almacenamiento; la cuantización intercambia memoria por un riesgo que hay que medir; y la licencia define derechos, no rendimiento ni reproducibilidad. Cuando esas capas se comparan por tarea correcta, “abierto” deja de ser una etiqueta y se convierte en una decisión verificable.

Cómo llevar la comparación a un piloto

Una tabla del fabricante puede servir para escoger candidatos, pero no certifica superioridad en una tarea propia. El piloto debe convertir el trabajo en casos con respuesta comprobable y coste de error explícito. Se reserva un conjunto que no se usa para ajustar instrucciones; se puntúan corrección, abstención cuando faltan datos, formato, latencia y revisión humana; y se ejecuta idéntico contra Large 3, un Ministral y la alternativa que ya utiliza el equipo.

Si cambian la cuantización, el motor o la plantilla, se abre una fila nueva en vez de mezclar resultados. El modelo elegido es el que resuelve más casos aceptables dentro de los límites de memoria, tiempo y riesgo, no el que reúne el mayor número de parámetros. Ese protocolo convierte la apertura en capacidad práctica: poder medir, cambiar y volver a ejecutar sin pedir permiso a una API.