Singularidad tecnológica: una anécdota, un condicional y una predicción

La “singularidad tecnológica” suele llegar envuelta en una autoridad prestada: se presenta como una teoría de John von Neumann sobre el día en que las máquinas superarán a las personas. El archivo cuenta otra historia. Von Neumann no publicó esa teoría. Stanislaw Ulam recordó una conversación; I. J. Good formuló un argumento condicional; Vernor Vinge reunió varias rutas hacia una discontinuidad y añadió un plazo.

Separar los tres textos no es una disputa de atribución menor. Una anécdota se evalúa por su procedencia; un condicional, por la validez de sus premisas; un pronóstico, por el resultado y la fecha. Mezclarlos permite que una predicción fallida conserve el prestigio de un matemático que nunca la escribió.

La capacidad transferible consiste en descomponer cualquier afirmación sobre IAG o singularidad en cinco casillas: definición, mecanismo, condiciones necesarias, indicador observable y horizonte temporal. Si faltan las dos últimas, suele haber una posibilidad o una narración, no una predicción comprobable.

1958: Ulam dejó un recuerdo, no una teoría de von Neumann

En mayo de 1958, Ulam publicó John von Neumann 1903–1957 en el Bulletin of the American Mathematical Society. Era un homenaje póstumo de 49 páginas que recorría vida, personalidad y trabajo del matemático. Dentro de una conversación recordada, Ulam mencionó la aceleración de la tecnología y cambios en la vida humana que parecían acercarse a una singularidad histórica.

La unidad documental importa. Es Ulam quien escribe en 1958 sobre una charla anterior; el pasaje no es un artículo de von Neumann, una definición de inteligencia de máquina ni un modelo de auto-mejora. Tampoco ofrece variable, mecanismo o fecha. Atribuirle “la teoría de la singularidad de von Neumann” transforma una memoria biográfica en una tesis técnica inexistente.

El método para una cita famosa es sencillo: buscar el documento, identificar autor y género, leer el párrafo que la rodea y preguntar si el citado escribió esas palabras o si alguien las recordó. Un apellido ilustre no corrige una cadena de atribución rota.

1965: Good formuló una consecuencia condicional

I. J. Good publicó Speculations Concerning the First Ultraintelligent Machine en el volumen 6 de Advances in Computers. El original comercial está bajo acceso de pago, pero Virginia Tech conserva una reimpresión institucional identificada como tal. Good definía una máquina ultrainteligente como aquella capaz de superar ampliamente todas las actividades intelectuales humanas.

Su núcleo era una implicación: si diseñar máquinas es una de esas actividades intelectuales, una máquina que ya supera al ser humano podría diseñar otra mejor. De ahí podría surgir una explosión de inteligencia. La conclusión depende de que exista la primera máquina, de que su superioridad incluya investigación y diseño, y de que las mejoras posteriores puedan repetirse.

Good no puso fecha a esa primera máquina. Tampoco demostró que cada ciclo fuese rápido, barato, verificable o acumulativo. El capítulo discutía posibles arquitecturas, aprendizaje, cerebro y control; era una especulación técnica amplia, no una ley empírica de crecimiento.

El condicional sigue siendo intelectualmente potente porque localiza una pregunta real: ¿puede un sistema mejorar el proceso que crea a su sucesor? Pero “si A, entonces B” no acredita que A vaya a ocurrir, ni cuándo. Confundir posibilidad lógica con probabilidad es uno de los atajos más frecuentes del debate.

1993: Vinge añadió rutas y un reloj

En marzo de 1993, Vernor Vinge presentó The Coming Technological Singularity en VISION-21, un simposio patrocinado por el centro Lewis de la NASA y el Ohio Aerospace Institute. El ensayo situaba dentro de treinta años la disponibilidad de medios tecnológicos para crear inteligencia mayor que la humana. Ese horizonte llevaba a 2023.

Su singularidad era más amplia que “una IA que reescribe su código”. Enumeraba cuatro rutas: ordenadores conscientes con inteligencia sobrehumana, redes que despertasen como una entidad, interfaces que amplificasen la inteligencia humana y biología capaz de mejorar el intelecto. La tesis era una ruptura tras la cual los modelos habituales para predecir el futuro dejarían de servir.

La fecha hace que el texto pueda responder ante la evidencia. En 2023 no existía una demostración pública aceptada de una entidad con la inteligencia sobrehumana general descrita por Vinge. Eso no vuelve inútil el ensayo: muestra qué parte era pronóstico y permite registrar que su plazo literal no se cumplió.

Un pronóstico serio conserva la edición consultada y su fecha; no desplaza el hito cada vez que se acerca. También define qué observación contaría como éxito. Sin criterio, cualquier mejora en un benchmark puede presentarse retrospectivamente como “el comienzo” y la tesis nunca corre riesgo de fallar.

IAG, superinteligencia y singularidad son tres conceptos

La IAG suele referirse a amplitud: aprender o realizar muchas clases de tareas cognitivas y transferir conocimiento a problemas nuevos. Superinteligencia añade un nivel: rendimiento superior al humano en un conjunto amplio de actividades intelectuales. Singularidad describe una consecuencia histórica o un límite de predicción, no solo una puntuación de capacidad.

Legg y Hutter propusieron una formalización de inteligencia como capacidad de lograr objetivos en una amplia variedad de entornos. Su medida es general y matemáticamente explícita, pero una aproximación práctica no es trivial. El propio problema de definir inteligencia impide tratar “IAG” como una etiqueta observada directamente.

Levels of AGI propone separar desempeño y generalidad. Un sistema puede ser sobrehumano en una tarea estrecha y seguir lejos de una competencia general. El marco también distingue autonomía y riesgo de la capacidad pura: hacer algo bien no significa hacerlo sin supervisión ni de forma segura.

AlphaFold ilustra el denominador. El paper de 2021 documentó gran precisión en predicción de estructuras de proteínas. Es un logro científico específico. No demuestra aprendizaje general de tareas, mejora autónoma de I+D ni una discontinuidad histórica.

La explosión necesita una cadena, no un solo salto

Primero tendría que existir competencia amplia o, al menos, una capacidad excepcional en investigación de IA. Segundo, el sistema tendría que proponer mejoras útiles a modelos, datos, algoritmos o hardware. Tercero, esas propuestas necesitarían experimentos, recursos, fabricación, energía y validación. Cuarto, los resultados tendrían que alimentar otro ciclo con rapidez suficiente.

Además, las ganancias tendrían que acumularse. Un proceso puede mejorar al principio y después encontrar límites de datos, cómputo, física, coordinación o conocimiento. Diseñar una hipótesis no equivale a comprobarla; generar código no equivale a desplegarlo; aumentar capacidad no elimina errores ni objetivos mal especificados.

La velocidad es parte del mecanismo. Si cada ciclo depende de fabricar chips durante años, hacer ensayos biológicos o revisar pruebas humanas, la realimentación puede ser importante sin ser explosiva. Si varias mejoras se interfieren, sumar sus beneficios por separado exagera el conjunto.

Por eso una evidencia de singularidad tendría que medir más que rendimiento final. Harían falta resultados nuevos en investigación, tasa de mejora por ciclo, coste y tiempo del ciclo, proporción de propuestas válidas, límites observados y cuánto trabajo externo aportaron personas e infraestructura.

Cómo leer gráficos de crecimiento

Una curva de cómputo, inversión o puntuación de benchmark describe una variable, no la conclusión completa. Extrapolar exige justificar por qué el régimen continuará, si la métrica tiene techo, si cambió el conjunto de prueba y si el recurso medido es el cuello de botella. Una línea ascendente no elige por sí sola una fecha de IAG.

También conviene separar medido de prometido. “El sistema obtuvo X bajo este protocolo” es un resultado; “esta tendencia permitirá automatizar la investigación” añade una inferencia; “por tanto llegará la singularidad en el año Y” añade mecanismo y plazo. Cada flecha necesita evidencia propia.

Los benchmarks pueden saturarse porque los modelos mejoran, porque contienen contaminación o porque dejan de representar la frontera. Una batería más amplia reduce el riesgo, pero la generalidad exige transferencia, adaptación, robustez y retención cuando cambia el problema, no muchos ejemplos de una sola familia.

Una plantilla para el próximo titular

Definición: ¿IAG significa nivel humano medio, experto, superhumano o autonomía? ¿Sobre qué tareas? Mecanismo: ¿se propone escala, nuevos algoritmos, herramientas, mejora de I+D o interfaces humanas? Condiciones: ¿qué recursos, permisos y validación externa necesita?

Indicador: ¿qué resultado observable refutaría o apoyaría la tesis? Debe conservar conjunto, versión, denominador y aportación humana. Horizonte: ¿hay fecha o rango y permanece fijo? Si no lo hay, la afirmación puede orientar investigación, pero no permite evaluar precisión predictiva.

La genealogía deja tres lecciones distintas. Ulam enseña a no convertir una memoria en autoría. Good enseña a distinguir consecuencia condicional de probabilidad. Vinge enseña el valor de asumir un plazo que puede fallar. Juntas ofrecen una forma más rigurosa de hablar del futuro: texto delante, supuestos visibles y reloj sin mover.