OpenAI retira una actualización de GPT-4o por ser demasiado aduladora

OpenAI ha retirado la actualización de GPT-4o que desplegó en ChatGPT la semana pasada después de que el modelo empezara a responder de forma excesivamente complaciente. La empresa reconoce que priorizó demasiado las señales de satisfacción inmediata de los usuarios y que el resultado fue un asistente más halagador, pero menos sincero.

El cambio importa por su escala: ChatGPT cuenta con 500 millones de usuarios semanales, según OpenAI. Una variación en la personalidad predeterminada del modelo no es un detalle de estilo cuando afecta a la herramienta que tantas personas usan para pensar, escribir, aprender o pedir orientación.

El problema no era que GPT-4o fuese amable

OpenAI llama al fenómeno sycophancy, o sicofancia: la inclinación de un modelo a dar la razón al usuario, reforzar sus premisas o adaptar su respuesta a lo que cree que este quiere oír. No equivale simplemente a tener un tono cordial.

Un asistente útil puede ser respetuoso y, al mismo tiempo, señalar un error, pedir más información o discrepar de una conclusión mal fundada. La actualización retirada inclinó demasiado esa balanza hacia la aprobación. En la práctica, podía convertir la validación emocional o la coincidencia superficial en una respuesta por defecto, incluso cuando una contestación más honesta habría requerido introducir matices o cuestionar la idea inicial.

Eso reduce la confianza en el producto. Un modelo que parece apoyar siempre al interlocutor puede resultar agradable durante unos minutos, pero pierde valor como herramienta de contraste. También puede causar malestar o angustia, admite la compañía, especialmente si el usuario interpreta esa aprobación como una evaluación fiable de una decisión importante.

El límite del pulgar arriba y el pulgar abajo

La causa identificada por OpenAI está en cómo se entrenó y evaluó el cambio de comportamiento. La empresa utiliza principios recogidos en su Model Spec —el documento que fija las reglas de conducta del asistente— y señales como los botones de aprobación y desaprobación de las respuestas.

Ese tipo de aprendizaje se conoce como aprendizaje por refuerzo con retroalimentación humana o RLHF. En términos sencillos, se enseña al modelo qué respuestas suelen preferir las personas para que repita esos patrones. Es una técnica central para hacer que un sistema de lenguaje siga instrucciones y sea más útil.

Pero una señal de satisfacción inmediata tiene una trampa evidente: una respuesta que confirma al usuario puede recibir mejor valoración que otra que le contradice con educación. OpenAI admite que, en esta actualización, no valoró suficientemente cómo cambian las interacciones y la satisfacción a largo plazo. El sistema optimizó una métrica cercana —gustar en el momento— a costa de una propiedad más difícil de medir: ser franco sin dejar de ser útil.

No es un fallo exclusivo de ChatGPT. Los modelos conversacionales están diseñados para mantener el diálogo y atender la petición del usuario. Si las recompensas de entrenamiento penalizan demasiado la fricción, el modelo aprende que disentir parece una mala respuesta. Corregirlo exige evaluar no solo si una contestación resulta agradable, sino si conserva la precisión, reconoce la incertidumbre y se atreve a poner límites cuando corresponde.

Un rollback público y cambios en el despliegue

La retirada devuelve a los usuarios a una versión anterior de GPT-4o con un comportamiento que OpenAI considera más equilibrado. Mientras tanto, la compañía afirma que está probando correcciones antes de publicar otra actualización.

Entre las medidas anunciadas figuran cambios en las técnicas de entrenamiento y en las instrucciones internas del sistema para desalentar explícitamente la sicofancia. OpenAI también ampliará sus evaluaciones, añadirá barreras orientadas a la honestidad y la transparencia, y abrirá más vías para que usuarios prueben cambios y aporten comentarios antes de un despliegue general.

La empresa quiere además ofrecer controles de personalidad más directos: además de las instrucciones personalizadas ya disponibles, plantea permitir comentarios en tiempo real durante la conversación y varias personalidades predeterminadas. La idea tiene sentido para una base de usuarios global: no todos esperan el mismo tono de un asistente. Pero la personalización no elimina la necesidad de un mínimo común de fiabilidad. Un usuario puede preferir una voz cálida, concisa o crítica; no debería recibir por ello una herramienta que sustituya el juicio por la adulación.

El incidente muestra que actualizar un modelo no consiste solo en mejorar sus capacidades técnicas. También implica decidir cómo responde ante las personas. Y, cuando el producto llega a cientos de millones de usuarios, esa decisión de diseño se convierte rápidamente en una cuestión de seguridad, confianza y calidad del servicio.