OpenAI disuelve Superalignment tras la salida de Jan Leike

OpenAI ha disuelto su equipo de Superalignment, la unidad creada hace menos de un año para investigar cómo mantener bajo control sistemas de inteligencia artificial mucho más capaces que los actuales. La noticia se conoce el mismo día en que Jan Leike, uno de sus dos responsables, ha anunciado su salida de la compañía y ha criticado públicamente el lugar que ocupa la seguridad dentro de OpenAI.

La desaparición del equipo no significa que la empresa abandone toda la investigación sobre seguridad, pero sí elimina una división con mandato propio, liderazgo específico y una promesa singular: dedicar una parte relevante de su capacidad de cálculo a resolver el problema de alinear una hipotética superinteligencia con los intereses humanos.

Dos salidas en tres días

Leike compartía la dirección de Superalignment con Ilya Sutskever, cofundador y hasta ahora científico jefe de OpenAI. Sutskever comunicó su marcha el pasado martes, 14 de mayo, sin explicar entonces sus motivos en detalle. Su puesto será asumido por Jakub Pachocki, hasta ahora director de investigación de la compañía.

La salida de Leike ha venido acompañada de un mensaje mucho más explícito. El investigador ha escrito que durante bastante tiempo mantuvo desacuerdos con la dirección de OpenAI sobre las prioridades fundamentales de la empresa, hasta llegar a un punto de ruptura.

Leike escribió que, durante los últimos años, la cultura y los procesos de seguridad habían pasado a un segundo plano frente a productos llamativos. También defendió que la compañía debería dedicar una proporción mucho mayor de sus recursos a los problemas de seguridad de los sistemas avanzados.

Sam Altman, consejero delegado de OpenAI, ha respondido en la red social X que aprecia las aportaciones de Leike y que la empresa tiene mucho trabajo pendiente en materia de seguridad. No ha detallado cómo se reorganizarán las funciones que desempeñaba Superalignment.

Qué era Superalignment

OpenAI presentó el equipo en julio de 2023, cuando Sutskever y Leike anunciaron un plan de investigación a cuatro años. La premisa era que los modelos de IA podrían superar algún día las capacidades humanas en la mayoría de tareas intelectuales y que los métodos actuales para controlarlos resultarían insuficientes.

Alinear una IA consiste, en términos sencillos, en conseguir que persiga los objetivos previstos y respete límites humanos incluso ante situaciones nuevas. Es un problema distinto de corregir un fallo concreto en ChatGPT o impedir una respuesta dañina: trata de diseñar mecanismos de supervisión para sistemas que, en teoría, podrían ser mejores que sus supervisores en muchas tareas.

El grupo prometió emplear alrededor del 20% de la capacidad de cálculo de OpenAI durante cuatro años en este trabajo. Entre sus líneas de investigación figuraban entrenar modelos para que ayudasen a evaluar a otros modelos más potentes y encontrar formas de detectar comportamientos engañosos o peligrosos antes de que causasen daños.

La propia existencia de esa unidad tenía un valor simbólico. OpenAI nació en 2015 con la seguridad como parte central de su misión, pero desde el lanzamiento de ChatGPT a finales de 2022 se ha convertido también en una empresa que compite por lanzar productos, captar clientes y mantener su posición frente a Google, Anthropic y otras tecnológicas.

Seguridad integrada, pero sin equipo propio

Los integrantes de Superalignment serán redistribuidos entre otros equipos de investigación de OpenAI. La compañía mantiene áreas dedicadas a seguridad, evaluaciones de modelos y preparación ante riesgos, por lo que la disolución no equivale a que esas tareas desaparezcan.

Sin embargo, cambia el modo en que se organizan. Un equipo independiente puede concentrarse en problemas a largo plazo que todavía no generan ingresos ni mejoran de forma inmediata un producto. Al integrarlo en otras divisiones, OpenAI tendrá que demostrar que esa investigación conserva recursos, autonomía y capacidad para cuestionar las decisiones de lanzamiento.

El momento agrava las dudas porque se produce seis meses después de la crisis del consejo que acabó con la destitución temporal y posterior restitución de Altman. Sutskever participó inicialmente en aquella destitución, aunque después expresó su pesar y respaldó el regreso del consejero delegado.

Para usuarios y empresas, la noticia no altera hoy el acceso a ChatGPT ni a los modelos de OpenAI. Su importancia está en otro plano: la seguridad de los modelos más capaces depende no solo de declaraciones públicas, sino de quién tiene autoridad interna, presupuesto y capacidad de frenar un lanzamiento. Las salidas de Sutskever y Leike dejan abierta la pregunta de cómo piensa preservar OpenAI esa función mientras acelera el desarrollo comercial de sus sistemas.