OpenAI disuelve Superalignment tras la salida de Jan Leike

El 17 de mayo de 2024, Jan Leike explicó su salida de OpenAI y afirmó que el equipo de Superalignment había tenido dificultades para obtener cómputo; la unidad dejó de existir como grupo separado. Su declaración pública aporta la versión del antiguo codirector, mientras el plan original de OpenAI permite contrastar objetivos y recursos prometidos. Una renuncia es evidencia de desacuerdo, no una auditoría completa de la empresa.

La desaparición del equipo no significa que la empresa abandone toda la investigación sobre seguridad, pero sí elimina una división con mandato propio, liderazgo específico y una promesa singular: dedicar una parte relevante de su capacidad de cálculo a resolver el problema de alinear una hipotética superinteligencia con los intereses humanos.

Dos salidas en tres días

Leike compartía la dirección de Superalignment con Ilya Sutskever, cofundador y hasta ahora científico jefe de OpenAI. Sutskever comunicó su marcha el pasado martes, 14 de mayo, sin explicar entonces sus motivos en detalle. Su puesto será asumido por Jakub Pachocki, hasta ahora director de investigación de la compañía.

La salida de Leike ha venido acompañada de un mensaje mucho más explícito. El investigador ha escrito que durante bastante tiempo mantuvo desacuerdos con la dirección de OpenAI sobre las prioridades fundamentales de la empresa, hasta llegar a un punto de ruptura.

Leike escribió que, durante los últimos años, la cultura y los procesos de seguridad habían pasado a un segundo plano frente a productos llamativos. También defendió que la compañía debería dedicar una proporción mucho mayor de sus recursos a los problemas de seguridad de los sistemas avanzados.

Sam Altman, consejero delegado de OpenAI, ha respondido en la red social X que aprecia las aportaciones de Leike y que la empresa tiene mucho trabajo pendiente en materia de seguridad. No ha detallado cómo se reorganizarán las funciones que desempeñaba Superalignment.

Qué era Superalignment

OpenAI presentó el equipo en julio de 2023, cuando Sutskever y Leike anunciaron un plan de investigación a cuatro años. La premisa era que los modelos de IA podrían superar algún día las capacidades humanas en la mayoría de tareas intelectuales y que los métodos actuales para controlarlos resultarían insuficientes.

Alinear una IA consiste, en términos sencillos, en conseguir que persiga los objetivos previstos y respete límites humanos incluso ante situaciones nuevas. Es un problema distinto de corregir un fallo concreto en ChatGPT o impedir una respuesta dañina: trata de diseñar mecanismos de supervisión para sistemas que, en teoría, podrían ser mejores que sus supervisores en muchas tareas.

El grupo prometió emplear alrededor del 20% de la capacidad de cálculo de OpenAI durante cuatro años en este trabajo. Entre sus líneas de investigación figuraban entrenar modelos para que ayudasen a evaluar a otros modelos más potentes y encontrar formas de detectar comportamientos engañosos o peligrosos antes de que causasen daños.

La propia existencia de esa unidad tenía un valor simbólico. OpenAI nació en 2015 con la seguridad como parte central de su misión, pero desde el lanzamiento de ChatGPT a finales de 2022 se ha convertido también en una empresa que compite por lanzar productos, captar clientes y mantener su posición frente a Google, Anthropic y otras tecnológicas.

Seguridad integrada, pero sin equipo propio

Los integrantes de Superalignment serán redistribuidos entre otros equipos de investigación de OpenAI. La compañía mantiene áreas dedicadas a seguridad, evaluaciones de modelos y preparación ante riesgos, por lo que la disolución no equivale a que esas tareas desaparezcan.

Sin embargo, cambia el modo en que se organizan. Un equipo independiente puede concentrarse en problemas a largo plazo que todavía no generan ingresos ni mejoran de forma inmediata un producto. Al integrarlo en otras divisiones, OpenAI tendrá que demostrar que esa investigación conserva recursos, autonomía y capacidad para cuestionar las decisiones de lanzamiento.

El momento agrava las dudas porque se produce seis meses después de la crisis del consejo que acabó con la destitución temporal y posterior restitución de Altman. Sutskever participó inicialmente en aquella destitución, aunque después expresó su pesar y respaldó el regreso del consejero delegado.

Para usuarios y empresas, la noticia no altera hoy el acceso a ChatGPT ni a los modelos de OpenAI. Su importancia está en otro plano: la seguridad de los modelos más capaces depende no solo de declaraciones públicas, sino de quién tiene autoridad interna, presupuesto y capacidad de frenar un lanzamiento. Las salidas de Sutskever y Leike dejan abierta la pregunta de cómo piensa preservar OpenAI esa función mientras acelera el desarrollo comercial de sus sistemas.

Un equipo se mide por capacidad operativa

El nombre de una unidad dice su misión; presupuesto, cómputo, personas, autoridad y artefactos dicen si puede cumplirla. Para evaluar Superalignment se comparan el plan publicado con acceso efectivo a recursos, resultados y decisiones de lanzamiento. La declaración de Leike señala una discrepancia que la empresa puede responder con evidencia.

La promesa de reservar cómputo necesita denominador y calendario. Capacidad teórica, horas asignadas y horas utilizadas no son lo mismo. Un porcentaje sin registro de proyectos puede parecer grande y seguir sin estar disponible cuando se necesita. La auditoría pide series, no un compromiso aislado.

La seguridad no debe depender de una persona

Las salidas importan, pero el programa también vive en responsables, procesos de escalado y criterios que detienen un despliegue. Si desaparece al marcharse sus líderes, no estaba institucionalizado. Si continúa bajo otros equipos, debe poder mostrar propiedad, objetivos y resultados sin conservar la etiqueta anterior.

Las líneas de investigación se evalúan por experimentos reproducibles: supervisión con modelos más débiles, detección de conducta engañosa y generalización del control. Cada método necesita amenaza, métrica y condición de fallo. “Alinear superinteligencia” es una misión, no una medida.

El conflicto de prioridades no se resuelve contando comunicados. Se siguen recursos, plazos, publicación de evaluaciones, incidentes y quién tiene poder de veto. También se registra la versión de las partes: un testimonio interno aporta información, pero no revela por sí solo todas las decisiones.

La capacidad transferible es auditar un compromiso de seguridad mediante objetivo, recursos reales, autoridad, resultados y continuidad. Ese marco permite distinguir una reorganización de la desaparición de la función sin convertir una renuncia en rumor ni una promesa corporativa en prueba.

La reorganización necesita una tabla de continuidad

Por cada línea del plan se anota responsable nuevo, recursos, publicación siguiente y fecha de revisión. Si una línea se integra en otro equipo, la tabla muestra continuidad; si no hay dueño, documenta una pérdida. Cambiar el nombre sin trasladar responsabilidad sería continuidad solo en el discurso.

Los resultados negativos importan. Un método que no escala o una evaluación que el modelo aprende a engañar puede ahorrar una ruta falsa si se publica. Medir seguridad solo por éxitos incentiva ocultar justo la evidencia más valiosa.

La supervisión externa puede revisar procesos sin acceder a secretos del modelo: composición del equipo, uso de cómputo, incidentes, criterios de lanzamiento y tratamiento de objeciones. La transparencia operativa no exige publicar capacidades peligrosas.

El lector conserva las fechas. El plan original y la crítica posterior pertenecen a momentos distintos; una respuesta futura no debe retroactivamente borrar la discrepancia. La cronología es parte de la evidencia.

La empresa puede responder con asignaciones, publicaciones y decisiones verificables. Si solo cambia el lenguaje del comunicado, la discrepancia sigue abierta. Esa simetría —testimonio atribuido y evidencia corporativa exigible— permite investigar sin elegir una versión por simpatía.

El cierre útil no predice si OpenAI será segura. Deja un método para comprobar si la función continúa y qué señales demostrarían una pérdida: responsable ausente, recursos no medidos, evaluaciones sin publicar o capacidad de veto eliminada.