John Schulman deja OpenAI para unirse a Anthropic

John Schulman, cofundador de OpenAI y uno de los investigadores que ayudó a convertir sus modelos en productos como ChatGPT, ha anunciado este lunes que abandona la empresa para incorporarse a Anthropic. Allí quiere centrarse en la alineación, el área de investigación que busca que los sistemas de inteligencia artificial actúen de acuerdo con las intenciones y los límites definidos por las personas.

El movimiento tiene peso más allá de un cambio de empleo. Schulman formaba parte del grupo fundador de OpenAI en 2015 y ha sido una de las voces técnicas más relevantes en el trabajo sobre seguridad y entrenamiento de modelos de lenguaje. Anthropic, creadora de la familia de modelos Claude, es además uno de los principales rivales de OpenAI en la carrera por desarrollar asistentes de IA avanzados.

De la investigación de refuerzo a ChatGPT

Antes de que ChatGPT popularizase los asistentes conversacionales, Schulman ya era conocido en el ámbito investigador por sus contribuciones al aprendizaje por refuerzo. Esta técnica permite entrenar un sistema mediante recompensas: el modelo prueba acciones, recibe señales sobre cuáles son preferibles y ajusta su comportamiento.

En OpenAI, ese trabajo resultó esencial para desarrollar el aprendizaje por refuerzo con retroalimentación humana, conocido como RLHF por sus siglas en inglés. El método utiliza evaluaciones de personas para que un modelo no solo genere texto plausible, sino respuestas más útiles y ajustadas a las instrucciones. Es una de las piezas que hicieron posible que ChatGPT pasara de ser una demostración técnica a un producto comprensible para el público general.

Schulman explicó que su decisión era personal y que quería volver a una labor técnica más directa, especialmente en investigación sobre alineación. En empresas que desarrollan modelos cada vez más capaces, la alineación no es un asunto secundario: trata de reducir comportamientos no deseados, mejorar la capacidad de control y anticipar riesgos antes de que los sistemas lleguen a millones de usuarios.

Anthropic refuerza su perfil de seguridad

Anthropic fue fundada en 2021 por antiguos empleados de OpenAI, entre ellos Dario Amodei y Daniela Amodei. Desde su origen ha situado la seguridad de los modelos en el centro de su estrategia comercial y científica. Su propuesta de «IA constitucional», por ejemplo, intenta guiar el comportamiento de Claude mediante un conjunto explícito de principios, en lugar de depender solo de valoraciones humanas caso por caso.

La incorporación de Schulman da a Anthropic un investigador con experiencia práctica en la fase más delicada del desarrollo de un asistente: el ajuste posterior al entrenamiento inicial. Es el momento en que un modelo base, entrenado con enormes cantidades de texto, se adapta para seguir instrucciones, rechazar peticiones peligrosas y mantener una conversación útil.

La competencia entre ambas compañías no se limita ya a lanzar modelos con mejores resultados en pruebas técnicas. También abarca la confianza de empresas y administraciones que necesitan saber cómo responde un sistema ante instrucciones ambiguas, datos sensibles o usos de alto riesgo.

Más cambios en OpenAI

La salida llega durante un verano movido para OpenAI. En mayo abandonaron la empresa Ilya Sutskever, cofundador y científico jefe, y Jan Leike, que codirigía junto a él el equipo de superalineación. Leike afirmó entonces que la seguridad había quedado por detrás de las prioridades de producto dentro de la compañía, una crítica que OpenAI rechazó implícitamente al defender la importancia de su trabajo de seguridad.

Este lunes también se ha conocido que Greg Brockman, presidente y otro de los cofundadores, tomará una excedencia prolongada hasta final de año. Brockman no ha anunciado su salida de OpenAI, pero su ausencia temporal se suma a una etapa de relevo interno tras la crisis de gobierno de la compañía del pasado noviembre.

OpenAI mantiene una posición dominante en el mercado de los asistentes de IA, respaldada por su alianza con Microsoft y por la enorme adopción de ChatGPT. Sin embargo, la marcha de investigadores que participaron en sus fundamentos técnicos muestra que la disputa por el talento especializado en seguridad es tan intensa como la competencia por clientes, capacidad de cómputo y modelos más potentes.

Para Anthropic, fichar a Schulman fortalece su credibilidad en un terreno que ha convertido en seña de identidad. Para OpenAI, el reto será demostrar que puede conservar ese conocimiento crítico mientras acelera el desarrollo de nuevos productos y mantiene bajo control los riesgos de sus sistemas.