OpenAI lanza GPT-4o mini, más barato y capaz que GPT-3.5

El 18 de julio de 2024, OpenAI lanzó GPT-4o mini como su modelo pequeño más económico y sustituto de GPT-3.5 en ChatGPT. El anuncio de lanzamiento publica precios, contexto, modalidades y resultados propios; leerlo bien exige separar el coste por token del coste de completar una tarea con calidad aceptable.

El lanzamiento importa por una razón muy práctica: buena parte del uso empresarial de la inteligencia artificial no requiere el modelo más potente disponible. Clasificar documentos, resumir conversaciones, extraer datos de facturas, responder preguntas frecuentes o asistir a un agente humano son tareas repetitivas y de gran volumen. En ellas, el precio por cada consulta suele pesar más que la capacidad de resolver un problema excepcionalmente complejo.

Un coste mucho menor para productos con millones de consultas

GPT-4o mini costará 15 céntimos de dólar por cada millón de tokens de entrada y 60 céntimos por cada millón de tokens generados. Un token es una unidad de texto que los modelos emplean para leer y producir lenguaje; en español no equivale exactamente a una palabra, pero sirve para medir el volumen procesado. Fuente primaria

La tarifa es un 70% inferior en entrada y un 60% inferior en salida a la de GPT-3.5 Turbo, que costaba 50 céntimos y 1,50 dólares por millón de tokens, respectivamente. Fuente primaria

La comparación ayuda a situar el movimiento. La familia GPT-3.5 fue la base tecnológica de ChatGPT en su lanzamiento a finales de 2022, pero su rendimiento había quedado por detrás de modelos posteriores. OpenAI intenta ahora que los clientes no tengan que escoger entre aquel modelo barato pero envejecido y GPT-4o, más capaz pero también más costoso.

Mejor rendimiento, con contexto de 128.000 tokens

GPT-4o mini es un modelo orientado a tareas de menor coste y alto volumen.

OpenAI afirma que alcanza un 82% en MMLU, una prueba habitual de conocimientos y razonamiento en varias materias; un 87% en MGSM, centrada en problemas matemáticos escritos en distintos idiomas; y un 87,2% en HumanEval, que mide la capacidad de escribir código. Como ocurre con cualquier conjunto de benchmarks, estas cifras son una referencia útil, pero no sustituyen las pruebas con datos y tareas reales de cada empresa. Fuente primaria

El modelo admite una ventana de contexto de 128.000 tokens y puede generar hasta 16.000 tokens en una respuesta. En términos sencillos, puede recibir documentos largos, historiales extensos de conversación o grandes bloques de código sin que el desarrollador tenga que dividirlos en muchas peticiones pequeñas. Fuente primaria

También acepta texto e imágenes como entrada y responde en texto. Esto permite, por ejemplo, construir aplicaciones que lean una captura de pantalla, interpreten un gráfico o extraigan información de un documento escaneado. OpenAI prevé añadir más adelante entradas y salidas de audio y vídeo, las modalidades que ya caracterizan a GPT-4o.

Más útil para automatizar tareas concretas

La compañía ha incluido soporte para llamadas a funciones, una capacidad que permite al modelo pedir a una aplicación que consulte una base de datos, envíe un correo o ejecute una acción definida por el desarrollador. Junto con la generación de respuestas en formato JSON, facilita integrar el modelo en procesos automáticos sin depender de que el texto tenga una forma imprevisible.

Ese detalle es relevante para las empresas. Un asistente conversacional puede tolerar una respuesta algo imprecisa o una frase mal formulada; un sistema que rellena una ficha de producto o deriva una incidencia necesita resultados estructurados y comprobables. Los modelos pequeños se están convirtiendo en la pieza habitual de estos flujos, mientras los modelos grandes quedan reservados para consultas difíciles o para revisar casos dudosos.

GPT-4o mini es el primer modelo de OpenAI que aplica el método de jerarquía de instrucciones, pensado para que distinga entre las órdenes del sistema, las indicaciones del usuario y el contenido externo que analiza. No elimina los errores ni los intentos de manipular al modelo, pero es una capa importante cuando se conecta a herramientas o maneja información de terceros.

Disponible en ChatGPT y para desarrolladores

Desde hoy, GPT-4o mini sustituye a GPT-3.5 Turbo para los usuarios Free, Plus y Team de ChatGPT. Los usuarios de ChatGPT Enterprise lo recibirán la próxima semana. En la API está disponible como gpt-4o-mini para quienes desarrollan aplicaciones propias.

OpenAI mantiene GPT-3.5 Turbo en su plataforma para desarrolladores, por lo que el cambio no obliga de inmediato a migrar servicios ya construidos. Sin embargo, la diferencia de precio y prestaciones hace previsible que GPT-4o mini se convierta en la opción de referencia para nuevos proyectos de bajo coste.

La novedad apunta a una etapa distinta de la competencia entre modelos: ya no basta con exhibir el mejor resultado en una prueba académica. Para que la IA se incorpore a productos cotidianos, debe poder atender millones de peticiones con una calidad suficiente y una factura asumible. GPT-4o mini es la respuesta de OpenAI a esa parte menos vistosa, pero decisiva, del mercado.

El precio por token no es el coste de una tarea

Una aplicación paga entrada, salida, reintentos, herramientas, almacenamiento y revisión humana. Un modelo barato puede resultar más caro si necesita más contexto, genera respuestas largas o obliga a repetir. La comparación correcta fija una tarea, un umbral de aceptación y un conjunto de casos; después divide el gasto total entre resultados aceptados.

Los benchmarks del fabricante sirven para formular hipótesis, no para elegir por sí solos. Una prueba interna debe representar documentos, idiomas, formatos y errores reales. En extracción se mide cada campo y se ejecuta validación; en clasificación se observa cada clase; en código se corren pruebas. El promedio importa menos que el tipo de fallo que llega a producción.

Enrutar por dificultad reduce coste sin ocultar errores

Un flujo puede enviar casos rutinarios al modelo pequeño y escalar los dudosos a otro sistema o a una persona. Para hacerlo necesita una señal verificable: esquema inválido, fuente ausente, baja confianza o desacuerdo entre ejecuciones. El modelo no debería decidir solo que su propia respuesta es suficiente.

También conviene fijar la versión y registrar cambios. Un alias remoto puede actualizarse, por lo que prompt, fecha, parámetros y modelo exacto forman parte del resultado. Antes de migrar se ejecuta el mismo conjunto de evaluación y se revisan regresiones, no solo mejoras medias.

La capacidad transferible es calcular coste por resultado aceptado y no por unidad vendida. Conserva calidad, latencia, reintentos y corrección humana en la misma hoja. Así un precio bajo se convierte en una ventaja medible en lugar de una promesa automática de ahorro.

El formato correcto no garantiza el dato correcto

La salida estructurada facilita que una aplicación rechace campos ausentes o tipos inválidos, pero un JSON perfecto todavía puede contener una cantidad inventada. La validación debe combinar esquema con reglas del dominio y, cuando sea posible, comprobar la respuesta contra una fuente. Automatizar el formato reduce una clase de error; no sustituye la verificación.

Antes de conectar herramientas, prueba entradas que intenten cambiar instrucciones o introducir acciones en documentos. Limita permisos, valida argumentos y exige confirmación para operaciones irreversibles. El ahorro de un modelo pequeño desaparece si una respuesta barata puede ejecutar una acción costosa sin control.

La hoja de decisión puede ser breve: versión, conjunto de casos, tasa de aceptación, errores críticos, latencia, coste total y porcentaje escalado a revisión. Repite la medición con el modelo alternativo. Si no existe ese denominador, “más barato” solo describe la tarifa del proveedor, no la economía de tu producto.

La métrica debe seguir a la tarea hasta el resultado que una persona o sistema acepta.