Q*: cómo informar de un avance secreto sin convertir una filtración en AGI

El 22 de noviembre de 2023, Reuters informó, citando a dos personas familiarizadas con el asunto, de que investigadores de OpenAI habían advertido al consejo sobre un hallazgo que consideraban relevante para el futuro de la inteligencia artificial. Una de sus fuentes relacionó el trabajo con un proyecto llamado Q* y con la resolución de ciertos problemas matemáticos de nivel escolar. La agencia también dejó escritos dos límites esenciales: no había podido ver la carta ni verificar de forma independiente las capacidades atribuidas al sistema.

Ese último dato cambia cómo debe leerse toda la historia. No existe en la información pública de aquel día un paper, una tabla de resultados, una demostración reproducible ni una descripción técnica de Q*. Había un reporte periodístico basado en fuentes anónimas. Puede ser una pista importante; no convierte una capacidad secreta en un hecho medido ni demuestra la llegada de una inteligencia artificial general.

Lo documentado y lo atribuido no son lo mismo

El documento público más cercano al episodio era el anuncio de OpenAI del 17 de noviembre sobre la salida de Sam Altman. El consejo afirmó que Altman no había sido «consistentemente sincero» en sus comunicaciones y que eso dificultaba ejercer sus responsabilidades. El texto no mencionaba Q*, una carta de investigadores, matemáticas ni una amenaza para la humanidad. Usarlo como confirmación de cualquiera de esos extremos sería añadir al documento algo que no dice.

Una lectura rigurosa separa cuatro capas. Primera: el hecho documental, que puede abrirse y citarse. Segunda: lo que una fuente identificada afirma. Tercera: lo que un medio atribuye a fuentes que protege. Cuarta: la interpretación que otros construyen encima. En Q*, el nombre del proyecto y las supuestas pruebas matemáticas estaban en la tercera capa; la equivalencia entre ese avance y la AGI pertenecía a la cuarta.

Esta jerarquía no obliga a ignorar una filtración. Obliga a conservar su procedencia en cada frase. «Reuters informó, citando fuentes» es distinto de «OpenAI creó». «Las fuentes lo describieron» es distinto de «el sistema demostró». Cuando desaparece esa gramática, una afirmación limitada se transforma en certeza por repetición.

Resolver matemáticas no define la AGI

Los problemas matemáticos son útiles porque permiten comprobar una respuesta y examinar los pasos. Pero «matemáticas de nivel escolar» no identifica el conjunto de ejercicios, el número de intentos, la tasa de acierto, la posible contaminación del entrenamiento, el uso de herramientas ni la comparación con modelos anteriores. Sin esos campos, la frase no es un resultado experimental.

La propia OpenAI había publicado meses antes un trabajo sobre supervisión del proceso en razonamiento matemático. Allí comparaba recompensar solo la respuesta final con dar retroalimentación a cada paso y explicaba que los modelos avanzados todavía cometían errores lógicos. Esa línea de investigación ayuda a entender por qué una mejora en matemáticas podía interesar a un laboratorio. No prueba que Q* usara el mismo método, ni permite inferir su arquitectura.

Tampoco basta una puntuación para saltar de una tarea a una categoría general. El Charter de OpenAI define la AGI como sistemas altamente autónomos que superan a los humanos en la mayor parte del trabajo económicamente valioso. Es una definición institucional amplia, no una prueba normalizada. Acertar problemas acotados puede revelar mejor planificación o búsqueda; todavía faltaría demostrar transferencia entre dominios, autonomía sostenida, fiabilidad y desempeño frente a humanos en una variedad de trabajos.

Qué tendría que publicar un laboratorio

Una afirmación matemática puede evaluarse sin revelar pesos ni secretos industriales. El laboratorio puede describir el conjunto de problemas, su fecha de creación, la política para detectar contaminación y el criterio de corrección. Puede informar resultados a un intento y con varios intentos, coste, tiempo, herramientas permitidas y fallos. Un evaluador externo puede recibir el sistema bajo confidencialidad y publicar el protocolo y los resultados agregados.

También importa la base de comparación. «Resuelve problemas que antes no podía» exige identificar la versión anterior, usar las mismas instrucciones y condiciones, y mostrar cuántos casos cambiaron. Seleccionar ejemplos vistosos no mide una capacidad. Un registro de todos los ejercicios, incluidas respuestas incorrectas y abandonos, permite distinguir una mejora frecuente de una demostración preparada.

La contaminación merece su propia prueba. Un modelo puede reproducir soluciones presentes en sus datos sin haber adquirido un método que se transfiera a ejercicios nuevos. Conjuntos creados después del cierre del entrenamiento, variantes generadas con reglas conocidas y revisión humana independiente reducen ese riesgo. Ninguna medida lo elimina por sí sola; la combinación hace que la afirmación sea auditable.

Antes de llamar «avance» a un resultado secreto conviene pedir seis datos: tarea exacta, muestra, métrica, condiciones, referencia y revisión independiente. Si faltan, el verbo correcto no es «demostró», sino «fue descrito como». El lenguaje expresa la calidad de la evidencia.

Un nombre en clave no revela un método

Q* provocó asociaciones con técnicas conocidas porque su nombre recordaba conceptos de aprendizaje por refuerzo y búsqueda. Esa coincidencia no es evidencia. Los nombres internos pueden ser bromas, etiquetas heredadas o referencias parciales. Sin documentación técnica no se puede determinar si un sistema combina lenguaje con planificación, búsqueda, aprendizaje por refuerzo, razonamiento simbólico u otra estrategia.

La manera de razonar sin inventar una arquitectura es formular hipótesis separadas de los hechos. Si el sistema usara búsqueda, esperaríamos sensibilidad al presupuesto de cómputo y una mejora al explorar más candidatos. Si hubiera aprendido un procedimiento transferible, debería funcionar en problemas inéditos y variantes estructurales. Si solo recordara patrones, su rendimiento caería al cambiar nombres, números o formatos. Esas predicciones convierten una especulación en preguntas comprobables, no en una descripción del sistema.

Capacidad, acceso, autonomía y daño

Una capacidad técnica no equivale automáticamente a un riesgo real. Entre ambas hay una cadena: qué sabe hacer el modelo, a qué herramientas y datos tiene acceso, con qué autonomía puede actuar, qué controles lo limitan y qué consecuencia produciría un fallo. Una prueba matemática solo habla, como máximo, del primer eslabón y dentro de una tarea determinada.

Para evaluar seguridad hay que probar cada enlace. ¿Puede el sistema mantener un objetivo durante muchas acciones? ¿Detecta y corrige errores? ¿Puede ejecutar código, gastar recursos o enviar información sin autorización? ¿Se registran sus acciones y existe una parada efectiva? Dos modelos con la misma puntuación pueden tener perfiles de riesgo muy distintos si uno responde en una caja aislada y otro opera herramientas externas.

El Charter compromete a la organización con la seguridad a largo plazo y la cooperación. Es útil como declaración de gobernanza, pero no sustituye una evaluación concreta. Para relacionar Q* con una amenaza habría que conocer la capacidad observada, el escenario de uso, los controles y la evidencia de daño. En noviembre de 2023 esos elementos no estaban publicados.

Un protocolo para leer filtraciones tecnológicas

Primero, abre el documento o reporte original y anota qué pudo comprobar su autor. Segundo, conserva la atribución exacta: organización, fuente identificada o fuente anónima. Tercero, construye una tabla de afirmaciones y marca cuáles tienen métricas. Cuarto, busca la ausencia decisiva —muestra, fecha, comparación, acceso o verificación—. Quinto, no uses un comunicado distinto para rellenar ese vacío.

Después aplica una prueba contraria: ¿qué observaríamos si la interpretación más espectacular fuera falsa? Un sistema podría mejorar mucho en una familia de problemas sin generalizar; una carta podría expresar preocupación sin afirmar que existe AGI; un conflicto de gobierno podría coincidir con un proyecto técnico sin haber sido causado por él. Mantener abiertas esas alternativas impide que una cronología se convierta en causalidad.

Q* era una historia legítima sobre señales internas y ausencia de información pública. Su valor no dependía de resolver el misterio. La capacidad transferible es reconocer la escalera de evidencia: documento, atribución, medición, reproducción e interpretación. Mientras falten los peldaños centrales, una filtración puede justificar preguntas urgentes, pero no un veredicto sobre la AGI.