IA 360
Modelos de lenguaje

DeepSeek-R1 llega a Nature tras una revisión de ocho expertos

Nature publica el estudio de DeepSeek-R1 tras someterlo a revisión por pares. El artículo muestra cómo el aprendizaje por refuerzo produjo nuevas estrategias de razonamiento y sitúa esa fase de entrenamiento en 294.000 dólares.

5 min de lectura Read in English

DeepSeek-R1 ha dado un paso inédito para un modelo de lenguaje de frontera: su investigación aparece hoy en Nature después de una revisión por pares en la que participaron ocho expertos. El artículo aporta detalles sobre cómo DeepSeek consiguió que el modelo desarrollase estrategias de razonamiento y cifra en 294.000 dólares el coste computacional de la fase de aprendizaje por refuerzo.

La publicación no convierte automáticamente todas las afirmaciones de DeepSeek en hechos incontrovertibles. Sí somete su metodología y sus resultados a un escrutinio científico que los grandes laboratorios estadounidenses, acostumbrados a divulgar sus avances mediante informes técnicos y presentaciones corporativas, rara vez han aceptado para sus modelos más capaces.

El razonamiento surgió sin ejemplos humanos en R1-Zero

El hallazgo central del trabajo es que determinadas capacidades de razonamiento pueden incentivarse mediante aprendizaje por refuerzo, una técnica en la que el sistema recibe recompensas cuando alcanza respuestas correctas, sin necesidad de enseñarle paso a paso cómo razonar.

DeepSeek aplicó este método a R1-Zero, una versión experimental construida sobre DeepSeek-V3-Base. En lugar de entrenarlo con razonamientos escritos por personas, utilizó problemas cuyas soluciones podían comprobarse automáticamente, especialmente de matemáticas y programación.

Durante ese proceso aparecieron comportamientos como revisar una respuesta, probar otra estrategia o dedicar más pasos a los problemas difíciles. Es relevante porque esas pautas no habían sido introducidas como demostraciones humanas: surgieron como una forma útil de maximizar la recompensa.

Hay una distinción importante. El DeepSeek-R1 publicado para uso general no se entrenó exclusivamente con refuerzo puro. La compañía incorporó una pequeña fase inicial con ejemplos supervisados, seguida de aprendizaje por refuerzo, generación y filtrado de nuevos datos, ajuste supervisado y una segunda fase de refuerzo. Ese proceso adicional buscaba mejorar la legibilidad, reducir las mezclas de idiomas y ampliar las capacidades más allá de los problemas con respuestas verificables.

Por tanto, el paper respalda que el razonamiento puede emerger mediante refuerzo puro en R1-Zero, no que toda la versión final de R1 prescinda de datos supervisados.

Qué representa realmente el coste de 294.000 dólares

La cifra de 294.000 dólares corresponde al entrenamiento por refuerzo descrito para desarrollar las capacidades de razonamiento. No es el coste total de crear DeepSeek-R1 desde cero y tampoco incluye toda la investigación, los experimentos descartados, la preparación de datos o el entrenamiento del modelo base.

R1 parte de DeepSeek-V3, una arquitectura de mezcla de expertos con 671.000 millones de parámetros totales, de los cuales se activan alrededor de 37.000 millones para procesar cada fragmento de texto. Esta técnica reparte el modelo entre numerosos bloques especializados y utiliza solo una parte en cada operación, lo que reduce el cálculo necesario frente a activar todos los parámetros a la vez.

DeepSeek había estimado en 5,576 millones de dólares el coste de la ejecución final de preentrenamiento de V3, calculado a partir de 2,788 millones de horas de GPU Nvidia H800. Esa cifra tampoco representaba el presupuesto completo del proyecto, pues dejaba fuera el desarrollo previo y otros ensayos.

Los 294.000 dólares son, por ello, un dato significativo pero acotado: muestran que añadir el comportamiento de razonamiento mediante refuerzo puede ser mucho más barato que preentrenar el modelo base. No permiten concluir que R1 completo costase esa cantidad ni ofrecen una comparación directa con modelos como OpenAI o1, cuyos laboratorios no han publicado un desglose equivalente.

Una apertura mayor que la habitual, pero no completa

DeepSeek distribuyó en enero los pesos de R1 y varias versiones destiladas —modelos más pequeños entrenados para imitar al sistema grande— bajo licencia MIT. También publicó un informe técnico con su metodología y resultados, lo que permitió a investigadores y empresas ejecutar los modelos en infraestructura propia.

La publicación en Nature añade otra capa: revisores independientes han podido cuestionar el diseño experimental, pedir aclaraciones y evaluar si las conclusiones están respaldadas por las pruebas presentadas. Esto diferencia el trabajo de las tarjetas de modelo o informes de seguridad elaborados y publicados únicamente por las propias compañías.

No equivale, sin embargo, a una reproducción independiente del entrenamiento. Tampoco convierte R1 en un proyecto completamente abierto: disponer de los pesos no proporciona necesariamente los datos originales, todo el código de entrenamiento ni el historial completo de experimentos necesario para reconstruir el modelo desde el principio.

La presión se traslada a los demás laboratorios

La relevancia de este artículo va más allá de DeepSeek. OpenAI, Google DeepMind, Anthropic y Meta presentan buena parte de sus avances más importantes sin revelar todos los detalles técnicos, alegando competencia comercial, seguridad o riesgo de uso indebido. Esa práctica dificulta comprobar costes, comparar métodos y separar mejoras científicas de decisiones de producto.

R1 demuestra que al menos una parte sustancial del desarrollo de un modelo de frontera puede documentarse con el nivel exigido por una revista científica. También refuerza una vía de investigación con consecuencias económicas: si el aprendizaje por refuerzo permite extraer más capacidad de razonamiento de modelos ya preentrenados, empresas y centros académicos podrían experimentar sin asumir siempre el coste de construir un sistema base desde cero.

El siguiente paso será comprobar hasta qué punto estos resultados se reproducen en otros modelos, idiomas y tareas menos fáciles de verificar automáticamente. La revisión de Nature eleva el estándar de evidencia, pero la prueba más exigente seguirá siendo que equipos independientes obtengan comportamientos comparables con recursos y métodos documentados.

Compartir este artículo

Este sitio web utiliza cookies para mejorar la experiencia de navegación. Política de cookies.