OpenAI abre la API de ChatGPT y Whisper desde 0,002 dólares

El 1 de marzo de 2023, OpenAI abrió las API de GPT-3.5 Turbo y Whisper; el precio de entrada bajo sirve para aprender a calcular el coste total de un producto dependiente de un proveedor.

OpenAI ha puesto hoy a disposición de los desarrolladores la API de ChatGPT, basada en el modelo gpt-3.5-turbo, y una API para Whisper, su sistema de reconocimiento de voz. El movimiento convierte dos herramientas que hasta ahora tenían una presencia pública muy visible en piezas que otras empresas pueden incorporar directamente a sus productos.

La novedad importa por el precio y por la simplicidad de acceso. En vez de entrenar un modelo propio o mantener una infraestructura compleja, una aplicación puede enviar una petición a los servidores de OpenAI y recibir una respuesta conversacional o una transcripción de audio.

Un modelo de ChatGPT para productos de terceros

La API de gpt-3.5-turbo cuesta 0,002 dólares por cada 1.000 tokens, según ha anunciado OpenAI. Un token es una unidad de texto: en inglés equivale aproximadamente a cuatro caracteres o a tres cuartas partes de una palabra, aunque la relación cambia según el idioma. La compañía sitúa ese precio en una décima parte del coste de sus anteriores modelos GPT-3.5. Fuente primaria

No se trata de insertar la web de ChatGPT dentro de una aplicación. Los desarrolladores acceden al modelo mediante una interfaz de programación, o API: un canal estandarizado para que un programa solicite una tarea a otro servicio. Pueden definir el papel del asistente, aportar el historial de una conversación y enviar la pregunta del usuario desde su propia interfaz.

El modelo admite hasta 4.096 tokens entre la petición y la respuesta. Ese límite permite conversaciones breves y tareas de texto habituales, pero obliga a controlar cuánto contexto se conserva en intercambios largos. Una empresa que quiera resumir documentos extensos, por ejemplo, tendrá que dividirlos en fragmentos o seleccionar previamente la información relevante. Fuente primaria

La llegada de esta API acelera usos que ya se estaban ensayando con modelos de lenguaje: asistentes para atención al cliente, herramientas de redacción, interfaces de búsqueda en documentos internos, apoyo a la programación o tutores conversacionales. El cambio no garantiza que esos productos sean fiables. GPT-3.5-turbo puede producir respuestas convincentes pero erróneas, de modo que los servicios que lo usen en ámbitos sensibles necesitarán revisiones, límites claros y mecanismos para escalar los casos difíciles a una persona.

Whisper lleva la voz a la misma factura

OpenAI también ha lanzado una API de Whisper, el modelo de reconocimiento automático del habla que publicó como código abierto en septiembre de 2022. El servicio cuesta 0,006 dólares por minuto de audio y permite transcribir grabaciones y traducir audio de otros idiomas al inglés. Fuente primaria

Hasta ahora, incorporar Whisper implicaba descargar y ejecutar el modelo en servidores propios, una opción útil para quien necesita control técnico o procesa mucho volumen, pero menos accesible para equipos pequeños. La API elimina esa instalación: una plataforma de entrevistas, una herramienta para reuniones o un medio puede enviar un archivo de audio y recibir texto procesable.

El reconocimiento de voz no equivale a comprender una conversación. Los nombres propios, el ruido ambiental, varios interlocutores o una pronunciación poco habitual siguen siendo fuentes de errores. Para publicar subtítulos, transcripciones legales o historiales médicos, la transcripción automática debe seguir considerándose un primer borrador y no un documento definitivo.

Precio bajo, dependencia alta

La rebaja de coste puede cambiar qué proyectos son viables. A 0,002 dólares por 1.000 tokens, muchas funciones conversacionales dejan de ser un experimento caro y pasan a tener un coste marginal reducido. Eso favorece a pequeñas empresas y desarrolladores independientes, pero también concentra una parte esencial de su producto en la infraestructura y las condiciones comerciales de OpenAI. Fuente primaria

La compañía ha indicado que conservará los datos enviados a la API durante 30 días para supervisar posibles abusos y que no los utilizará para mejorar sus modelos salvo que el cliente dé su consentimiento explícito. Es una condición relevante para organizaciones que quieran analizar información interna, aunque no elimina la necesidad de evaluar qué datos pueden enviarse a un proveedor externo. Fuente primaria

El siguiente reto será distinguir entre una integración superficial y un producto útil. La API hace más fácil añadir una caja de conversación o una transcripción automática; diseñar controles, proteger datos y asumir los fallos del modelo seguirá siendo responsabilidad de quien construya el servicio.

El precio por token es solo una línea de la factura

Una aplicación paga entradas y salidas, pero también almacenamiento, búsqueda, moderación, reintentos, observabilidad y revisión humana. El coste mensual se calcula con una distribución real de conversaciones: tokens medios y extremos, respuestas fallidas y llamadas auxiliares. Multiplicar el precio por una demostración corta suele infravalorar producción.

La ventana de contexto crea otra decisión. Conservar todo el historial aumenta coste y puede arrastrar información irrelevante; resumirlo ahorra tokens, pero introduce pérdida. Un sistema robusto guarda el dato fuente fuera del modelo, selecciona fragmentos necesarios y permite reconstruir por qué una respuesta recibió ese contexto.

Whisper añade unidades distintas: duración, calidad de audio, idioma, latencia y revisión de nombres propios. Una transcripción barata puede salir cara si alguien debe corregir cada frase. Se toma una muestra representativa de llamadas o grabaciones, se crea una referencia humana y se mide error por tipo, no solo una impresión general.

Dependencia y reversibilidad

La nota de lanzamiento ofrecía GPT-3.5 Turbo a 0,002 dólares por mil tokens y Whisper a través de una API gestionada. Esos precios estaban fechados. Un producto debe soportar cambios de tarifa, límites, versiones y disponibilidad. Presupuestos y contratos no pueden asumir que el número inaugural permanecerá.

La salida se diseña antes de depender. Se conserva un formato propio de mensajes y transcripciones, se abstrae la llamada al proveedor y se prueba una alternativa mínima. No hace falta cambiar de servicio cada mes; hace falta saber qué datos y funciones impedirían hacerlo si fuera necesario.

También se fijan evaluaciones de regresión. Cuando cambia el modelo, se repite un conjunto de tareas y se comparan exactitud, tono, seguridad, latencia y coste. Una actualización puede mejorar la media y romper una intención que el producto consideraba esencial.

La capacidad transferible es calcular coste por resultado aceptado y registrar dependencia. Suma todas las llamadas y tiempo de revisión, prueba audio y texto propios y documenta cómo sustituir el proveedor. Una API reduce la barrera de entrada; la ingeniería decide si reduce el coste total.

La medición de latencia usa percentiles, no solo promedio. Una respuesta rápida la mayoría del tiempo puede atascar una interfaz cuando coinciden carga y peticiones largas. Se fija un tiempo máximo, se decide qué mostrar al usuario y se evita repetir automáticamente una llamada que podría duplicar una acción.

Los registros tampoco deben copiar sin límite todo lo enviado al modelo. Para depurar hacen falta versión, tiempos, tamaño, resultado y un identificador; el contenido sensible se minimiza o se protege. Observabilidad no significa crear una segunda base de datos con todas las conversaciones.

Antes de producción se fija además un techo de gasto y una alarma. Una entrada inesperadamente larga, un bucle de reintentos o abuso puede multiplicar llamadas sin aportar valor. Los límites por usuario y tarea contienen coste y daño; la excepción queda registrada y requiere un responsable.

Finalmente, el presupuesto incluye el coste de salir: exportar datos, adaptar prompts, repetir evaluaciones y formar al equipo. Esa reserva parece innecesaria mientras todo funciona, pero evita que una subida de precio o una retirada de versión conviertan una dependencia técnica en una emergencia empresarial.