DeepSeek-OCR enseña por qué menos tokens no equivalen a menos coste

El 21 de octubre de 2025, tres investigadores de DeepSeek publicaron DeepSeek-OCR, un modelo de visión y lenguaje que convierte una página en una representación visual compacta y genera de nuevo su contenido. El preprint original informó de una precisión de decodificación cercana al 97% cuando el texto de referencia contenía menos de diez veces los tokens visuales usados por el modelo.

El hallazgo no demuestra que un asistente pueda guardar diez veces más memoria ni que una factura cueste diez veces menos. Mide reconstrucción OCR en una prueba delimitada. Para interpretar cualquier promesa de compresión hay que escribir la fracción completa —qué se divide entre qué— y añadir muestra, tarea, métrica, calidad y coste de toda la tubería.

La proporción compara dos tokenizadores distintos

En el estudio, la razón de compresión es el número de tokens obtenidos al tokenizar el texto correcto dividido por los tokens visuales producidos por el codificador. Si una página tiene 900 tokens de texto y el modelo la representa mediante 100 visuales, la razón es nueve. Eso no significa que un token visual ocupe el mismo espacio, exija el mismo cálculo o tenga el mismo precio que uno textual.

DeepEncoder procesa la imagen y reduce sus rasgos a una secuencia visual. Un decodificador de mezcla de expertos genera después el texto. El trabajo del codificador, la imagen de entrada, la memoria de activaciones, la generación de salida y la comunicación entre componentes no desaparecen del sistema aunque el contador intermedio sea menor.

El modelo utiliza modos de resolución diferentes. Tiny redimensiona a 512 por 512 píxeles y produce 64 tokens visuales; Small usa 640 por 640 y produce 100; Base llega a 1.024 por 1.024 y 256. Los modos dinámicos dividen páginas grandes en vistas locales y añaden una vista global. “Tokens por página” cambia, por tanto, con la resolución y el diseño.

El 97% pertenece a cien páginas y a una tarea

La tabla de compresión utiliza exactamente cien documentos en inglés del benchmark Fox. Los autores seleccionaron páginas cuyo texto correcto tenía entre 600 y 1.300 tokens según el tokenizador de DeepSeek-OCR. Las probaron en los modos Tiny y Small con una instrucción de OCR sin maquetación. El 97% resume el tramo por debajo de una razón de diez, no todos los idiomas, páginas y resoluciones.

La distribución importa. En Small, las 28 páginas de 800 a 900 tokens alcanzaron 96,8% de precisión a una razón de 8,5. Solo cuatro páginas ocuparon el tramo de 1.200 a 1.300 tokens: allí la precisión publicada fue 87,1% a una razón de 12,6. Un promedio atractivo puede ocultar pocos ejemplos justo donde la compresión es más agresiva.

El equipo informó de alrededor del 60% al acercarse a una razón de veinte. Esa caída no es “memoria borrosa” ya validada como función útil. Los autores plantean el olvido de contexto antiguo como una posible línea de investigación. En la prueba, lo observado es pérdida al reconstruir caracteres y formato cuando hay demasiada información para la resolución.

Incluso un 97% medio requiere traducirse al daño de cada error. En un archivo literario, algunos fallos quizá sean tolerables; en una dosis, una cuenta, una fecha o una cláusula, un solo dígito puede cambiar la decisión. Una evaluación de producción debe medir exactitud por tipo de campo y tasa de documentos perfectos, no solo parecido agregado.

Reconstruir texto no equivale a razonar sobre él

El experimento comprime una página y pide recuperar su texto. No compara si un modelo responde preguntas, conecta hechos distantes, cita una cláusula exacta o detecta contradicciones usando los tokens visuales en vez del texto original. Esas tareas pueden fallar aunque la transcripción parezca buena, porque el error relevante quizá esté en la única palabra necesaria para responder.

Para probar memoria habría que mantener constante el modelo, la pregunta, el documento y el presupuesto, cambiando solo la representación. Después se medirían respuestas correctas, citas verificables, omisiones y coste. También harían falta consultas que apunten a detalles antiguos y recientes para saber si una resolución decreciente produce un olvido controlado o una pérdida impredecible.

El paper habla de “contextos ópticos” como investigación inicial. DeepSeek-OCR es, en cambio, un sistema de OCR operativo sobre imágenes de documentos. No se mostró un asistente que convierta automáticamente su conversación histórica en imágenes y razone sobre ellas. La propuesta de memoria nace del resultado de reconstrucción; no es todavía el resultado.

OmniDocBench usa otra métrica

La segunda evaluación, OmniDocBench, mide distancia de edición: cuanto menor, mejor. Incluye componentes como texto, fórmulas, tablas y orden de lectura para documentos en inglés y chino. No debe mezclarse su puntuación con el porcentaje de precisión de Fox, aunque ambas aparezcan bajo la palabra OCR.

DeepSeek comunicó que el modo Small, con 100 tokens visuales, superaba a GOT-OCR2.0, que usaba 256. Con menos de 800 en modo Gundam superaba en el promedio publicado a MinerU2.0, al que la tabla asignaba cerca de 6.790. Sin embargo, los propios desgloses muestran dependencia del formato: los periódicos necesitaban modos de mayor resolución y más tokens que libros o informes.

La comparación útil conserva cinco datos: versión exacta, entrada, resolución, tokens válidos frente a asignados y distancia por categoría. También distingue modelos integrales de tuberías con varios componentes. Contar solo tokens de entrada no captura preprocesamiento, llamadas secundarias para gráficos ni correcciones posteriores.

Doscientas mil páginas al día es rendimiento, no coste total

Los autores atribuyeron al modelo una producción superior a 200.000 páginas diarias en una GPU A100 de 40 gigabytes. La cifra describe su tubería y hardware; no aporta consumo eléctrico, precio de la GPU, utilización, longitud media de salida, almacenamiento, validación humana ni porcentaje de páginas que necesitan repetición.

El repositorio oficial permite inspeccionar el entorno publicado, los modos de resolución, las instrucciones y rutas de inferencia. Indica, por ejemplo, una configuración de CUDA 11.8 y PyTorch 2.6, además de ejecución con vLLM y Transformers. Reproducir rendimiento exige fijar también versión del código, lote, archivos y criterio de finalización.

Para decidir si el sistema ahorra dinero, una empresa debe medir páginas aceptadas por hora, no páginas intentadas. El denominador incluye lectura de archivo, renderizado, OCR, validación, reintentos y almacenamiento; el numerador exige una regla de aceptación por campos. Se compara después con la tubería anterior sobre el mismo corpus y nivel de calidad.

Una tarjeta de seis líneas evita la exageración

Primero: tarea, aquí reconstruir texto. Segundo: razón, tokens textuales de referencia divididos por tokens visuales. Tercero: muestra, cien páginas inglesas de Fox en un rango concreto. Cuarto: modo y resolución. Quinto: métrica y dirección. Sexto: costes excluidos y prueba que todavía falta, como razonamiento o recuperación.

DeepSeek-OCR aporta una arquitectura abierta y un resultado interesante sobre densidad visual. Su contribución se entiende mejor cuando se estrecha la afirmación: en determinadas páginas, el modelo reconstruye texto a partir de muchos menos tokens visuales que los que produce un tokenizador textual. La capacidad transferible es no detenerse en “menos tokens”. Hay que comprobar qué representan, qué calidad preservan y cuánto cuesta convertirlos en una respuesta correcta.

Una prueba interna puede estratificar el corpus antes de ejecutar nada: idioma, número de columnas, tamaño de letra, presencia de tablas, escaneado y criticidad del campo. Se reserva un conjunto que el equipo no use para ajustar prompts y se publican resultados por estrato. Además de distancia media, se cuentan páginas exactas, caracteres omitidos, cifras modificadas y orden de lectura. Si se evalúa recuperación, cada respuesta debe señalar la región de la página que la sustenta. Así se descubre si el ahorro procede de comprimir información redundante o de perder precisamente los casos difíciles que el promedio oculta.