Q*: el proyecto secreto de OpenAI que reabre el debate sobre la AGI

Mientras OpenAI todavía digiere el vértigo de los últimos días —el despido de Sam Altman el 17 de noviembre, cuatro jornadas de caos y su regreso como consejero delegado confirmado ayer, 22 de noviembre, con un consejo de administración renovado—, esta misma semana ha trascendido otro asunto que añade una capa más a la historia: un proyecto interno bautizado como Q* (se pronuncia "Q-star").

Según ha informado Reuters citando a personas conocedoras del asunto, antes de la salida de Altman varios investigadores de OpenAI enviaron una carta al consejo de administración advirtiendo sobre un descubrimiento de inteligencia artificial que, en su opinión, podría suponer una amenaza para la humanidad si no se gestionaba con cuidado. El objeto de esa advertencia era precisamente Q*.

Qué se sabe de Q*

De acuerdo con las fuentes citadas por Reuters, Q* habría logrado resolver ciertos problemas matemáticos, algo que hasta ahora representaba un obstáculo relevante para los grandes modelos de lenguaje actuales. Las cifras concretas no se han hecho públicas, pero según esas fuentes el rendimiento del sistema, aunque limitado —comparable al de un estudiante de primaria resolviendo ejercicios—, bastó para generar un fuerte optimismo interno sobre su potencial.

La razón de ese entusiasmo es técnica pero fácil de entender: los modelos como GPT-4 son excelentes generando texto plausible, pero no "razonan" paso a paso de forma fiable ni verifican si una solución matemática es correcta. Un sistema capaz de resolver problemas nuevos con precisión, en lugar de limitarse a predecir la palabra más probable, se acerca más a lo que los investigadores del sector entienden por razonamiento genuino. De ahí el salto especulativo hacia la AGI, la inteligencia artificial general: un sistema capaz de igualar o superar las capacidades cognitivas humanas en prácticamente cualquier tarea, y no solo en las que se le entrenó específicamente.

OpenAI ha declinado hacer comentarios sobre Q* como tal. Sí ha confirmado, a través de un comunicado recogido por Reuters, que la compañía es consciente de la carta y de las reservas que algunos empleados han planteado, y ha asegurado que no se le ha hecho llegar ninguna cuestión de seguridad relacionada con ese documento que ponga en riesgo a los usuarios.

Por qué llega en este momento

El contexto no es casual. La junta directiva de OpenAI destituyó a Altman alegando, en su comunicado original, que no había sido "consistentemente sincero en sus comunicaciones" con el consejo, sin detallar más. Desde entonces se ha especulado con múltiples explicaciones, desde desavenencias sobre la velocidad de comercialización de los productos hasta tensiones internas sobre seguridad. La aparición de la historia de Q* alimenta precisamente esa segunda hipótesis: la de una organización dividida entre quienes quieren acelerar el desarrollo de sistemas cada vez más capaces y quienes temen que la compañía esté avanzando más rápido de lo que puede controlar con seguridad.

OpenAI fue fundada en 2015 con la misión declarada de garantizar que la inteligencia artificial general beneficie a toda la humanidad, y su estructura de gobierno —una fundación sin ánimo de lucro que controla una filial con tope de beneficios— se diseñó explícitamente para poder frenar el desarrollo si los riesgos superasen a los beneficios. La carta sobre Q*, si los detalles conocidos hasta ahora se confirman, sería un ejemplo de ese mecanismo funcionando: investigadores trasladando una preocupación de seguridad al órgano de gobierno antes de que un avance saliera a producción.

Lo que no se sabe

No hay confirmación pública sobre qué es técnicamente Q*, qué arquitectura utiliza, ni si guarda relación con las técnicas de "razonamiento por cadena de pensamiento" o con métodos de búsqueda tipo árbol que distintos laboratorios de investigación en IA llevan tiempo explorando para mejorar la fiabilidad matemática de los modelos. Tampoco se ha precisado si el proyecto sigue activo, si ha sido pausado o si su desarrollo influyó de algún modo en la crisis de gobierno que ha vivido la compañía esta semana.

Lo que sí deja esta historia es una certeza: el mismo día en que Altman regresa a OpenAI con un consejo distinto, la compañía se enfrenta a la pregunta que lleva planteando desde su fundación, ahora con nombre propio. Si Q* resulta ser lo que algunas fuentes sugieren, el debate sobre cuánto se acerca OpenAI a la AGI —y quién decide cuándo un avance es seguro para el mundo— acaba de volverse mucho más concreto.