Stability AI lleva su apuesta abierta al texto con StableLM
Stability AI ha presentado StableLM, una familia abierta de modelos de lenguaje que comienza con versiones de 3.000 y 7.000 millones de parámetros. El movimiento traslada al texto la estrategia que popularizó con Stable Diffusion.
Según anunció Stability AI, la empresa detrás de Stable Diffusion, StableLM es una nueva familia de modelos de lenguaje abiertos. El lanzamiento arranca con modelos de 3.000 y 7.000 millones de parámetros y anticipa versiones mayores, entre 15.000 y 65.000 millones.
La novedad importa porque lleva al terreno del texto la fórmula que dio notoriedad a la compañía: publicar modelos que desarrolladores, investigadores y empresas puedan descargar, estudiar y adaptar. En un mercado marcado por servicios cerrados como ChatGPT o GPT-4, StableLM ofrece una alternativa con los pesos del modelo disponibles públicamente.
Modelos más pequeños, pero utilizables en más equipos
Un modelo de lenguaje es un sistema entrenado con enormes colecciones de texto para predecir la siguiente palabra y, con ello, redactar, resumir, responder preguntas o generar código. El número de parámetros —los valores internos que el modelo ajusta durante su aprendizaje— suele dar una idea de su capacidad, aunque no determina por sí solo la calidad final.
Los primeros StableLM Alpha tienen 3.000 y 7.000 millones de parámetros. Son mucho más pequeños que los grandes modelos comerciales cuyo tamaño no se ha hecho público, pero esa escala tiene una ventaja práctica: requiere menos recursos para ejecutar el sistema y facilita que una organización lo despliegue en su propia infraestructura.
Stability AI afirma haber entrenado estos modelos con 1,5 billones de tokens, las unidades de texto que procesa un modelo y que pueden equivaler a palabras completas, fragmentos de palabras o signos de puntuación. La compañía explica que el conjunto de entrenamiento parte de The Pile, una colección pública de textos creada para investigación, ampliada con nuevas fuentes experimentales.
Una licencia abierta con condiciones
Según Stability AI, los pesos de StableLM se han publicado en Hugging Face bajo licencia Creative Commons Attribution-ShareAlike 4.0. Esto permite usar, modificar y redistribuir el modelo, incluso comercialmente, siempre que se reconozca la autoría y que las versiones derivadas se compartan bajo la misma licencia.
No es exactamente lo mismo que liberar todo el proceso de creación. Publicar los pesos permite ejecutar y ajustar el modelo, pero no equivale necesariamente a reproducir desde cero su entrenamiento: para eso harían falta datos, código, configuración y capacidad de cálculo suficientes. Aun así, es un nivel de acceso muy superior al de los asistentes de texto que solo se ofrecen mediante una página web o una API.
Junto a los modelos base, Stability AI ha difundido versiones ajustadas para seguir instrucciones. Este ajuste posterior enseña al sistema a comportarse como asistente conversacional, en lugar de limitarse a continuar texto. Es el paso que convierte un modelo general en una herramienta capaz de responder a peticiones redactadas en lenguaje natural.
El reto no es solo abrir los pesos
La experiencia de Stable Diffusion muestra por qué esta estrategia puede tener impacto. La disponibilidad del modelo impulsó una comunidad de desarrolladores que creó interfaces, extensiones y versiones especializadas para estilos visuales, flujos de trabajo profesionales y equipos modestos. StableLM puede atraer un ecosistema parecido para chatbots privados, herramientas de redacción o asistentes internos.
Pero los modelos de lenguaje plantean problemas propios. Pueden inventar datos con aparente seguridad, reproducir sesgos presentes en sus datos de entrenamiento o generar contenido inadecuado si no se incorporan controles. Las versiones pequeñas también tendrán límites evidentes frente a los mejores sistemas cerrados en razonamiento, conocimiento factual y seguimiento de instrucciones complejas.
La promesa de Stability AI es ampliar la familia con modelos de mayor tamaño. Su éxito dependerá de algo más que la cifra de parámetros: calidad de los datos, resultados en pruebas independientes, facilidad para ajustarlos y claridad sobre sus límites. De momento, StableLM abre una nueva vía para quien quiera experimentar con modelos de texto sin depender por completo de las grandes plataformas comerciales.
