OpenAI lanza GPT-4o mini, más barato y capaz que GPT-3.5

OpenAI ha presentado hoy GPT-4o mini, un modelo de lenguaje pequeño diseñado para ofrecer respuestas rápidas y baratas sin volver a las limitaciones de GPT-3.5 Turbo. La compañía lo incorpora a ChatGPT como sustituto de ese modelo y lo pone a disposición de desarrolladores mediante su API.

El lanzamiento importa por una razón muy práctica: buena parte del uso empresarial de la inteligencia artificial no requiere el modelo más potente disponible. Clasificar documentos, resumir conversaciones, extraer datos de facturas, responder preguntas frecuentes o asistir a un agente humano son tareas repetitivas y de gran volumen. En ellas, el precio por cada consulta suele pesar más que la capacidad de resolver un problema excepcionalmente complejo.

Un coste mucho menor para productos con millones de consultas

GPT-4o mini costará 15 céntimos de dólar por cada millón de tokens de entrada y 60 céntimos por cada millón de tokens generados. Un token es una unidad de texto que los modelos emplean para leer y producir lenguaje; en español no equivale exactamente a una palabra, pero sirve para medir el volumen procesado.

La tarifa es un 70% inferior en entrada y un 60% inferior en salida a la de GPT-3.5 Turbo, que costaba 50 céntimos y 1,50 dólares por millón de tokens, respectivamente.

La comparación ayuda a situar el movimiento. La familia GPT-3.5 fue la base tecnológica de ChatGPT en su lanzamiento a finales de 2022, pero su rendimiento había quedado por detrás de modelos posteriores. OpenAI intenta ahora que los clientes no tengan que escoger entre aquel modelo barato pero envejecido y GPT-4o, más capaz pero también más costoso.

Mejor rendimiento, con contexto de 128.000 tokens

GPT-4o mini es un modelo orientado a tareas de menor coste y alto volumen.

OpenAI afirma que alcanza un 82% en MMLU, una prueba habitual de conocimientos y razonamiento en varias materias; un 87% en MGSM, centrada en problemas matemáticos escritos en distintos idiomas; y un 87,2% en HumanEval, que mide la capacidad de escribir código. Como ocurre con cualquier conjunto de benchmarks, estas cifras son una referencia útil, pero no sustituyen las pruebas con datos y tareas reales de cada empresa.

El modelo admite una ventana de contexto de 128.000 tokens y puede generar hasta 16.000 tokens en una respuesta. En términos sencillos, puede recibir documentos largos, historiales extensos de conversación o grandes bloques de código sin que el desarrollador tenga que dividirlos en muchas peticiones pequeñas.

También acepta texto e imágenes como entrada y responde en texto. Esto permite, por ejemplo, construir aplicaciones que lean una captura de pantalla, interpreten un gráfico o extraigan información de un documento escaneado. OpenAI prevé añadir más adelante entradas y salidas de audio y vídeo, las modalidades que ya caracterizan a GPT-4o.

Más útil para automatizar tareas concretas

La compañía ha incluido soporte para llamadas a funciones, una capacidad que permite al modelo pedir a una aplicación que consulte una base de datos, envíe un correo o ejecute una acción definida por el desarrollador. Junto con la generación de respuestas en formato JSON, facilita integrar el modelo en procesos automáticos sin depender de que el texto tenga una forma imprevisible.

Ese detalle es relevante para las empresas. Un asistente conversacional puede tolerar una respuesta algo imprecisa o una frase mal formulada; un sistema que rellena una ficha de producto o deriva una incidencia necesita resultados estructurados y comprobables. Los modelos pequeños se están convirtiendo en la pieza habitual de estos flujos, mientras los modelos grandes quedan reservados para consultas difíciles o para revisar casos dudosos.

GPT-4o mini es el primer modelo de OpenAI que aplica el método de jerarquía de instrucciones, pensado para que distinga entre las órdenes del sistema, las indicaciones del usuario y el contenido externo que analiza. No elimina los errores ni los intentos de manipular al modelo, pero es una capa importante cuando se conecta a herramientas o maneja información de terceros.

Disponible en ChatGPT y para desarrolladores

Desde hoy, GPT-4o mini sustituye a GPT-3.5 Turbo para los usuarios Free, Plus y Team de ChatGPT. Los usuarios de ChatGPT Enterprise lo recibirán la próxima semana. En la API está disponible como gpt-4o-mini para quienes desarrollan aplicaciones propias.

OpenAI mantiene GPT-3.5 Turbo en su plataforma para desarrolladores, por lo que el cambio no obliga de inmediato a migrar servicios ya construidos. Sin embargo, la diferencia de precio y prestaciones hace previsible que GPT-4o mini se convierta en la opción de referencia para nuevos proyectos de bajo coste.

La novedad apunta a una etapa distinta de la competencia entre modelos: ya no basta con exhibir el mejor resultado en una prueba académica. Para que la IA se incorpore a productos cotidianos, debe poder atender millones de peticiones con una calidad suficiente y una factura asumible. GPT-4o mini es la respuesta de OpenAI a esa parte menos vistosa, pero decisiva, del mercado.