Más de 800 figuras piden frenar la superinteligencia
Geoffrey Hinton, Yoshua Bengio, Steve Wozniak y centenares de personalidades reclaman prohibir el desarrollo de superinteligencia hasta que sea controlable y cuente con apoyo público.
El Future of Life Institute ha publicado este miércoles una declaración que pide prohibir el desarrollo de sistemas de superinteligencia hasta que exista consenso científico sobre su seguridad y control, además de un respaldo social amplio. El texto reúne más de 800 firmas de científicos, tecnólogos, líderes religiosos, políticos y figuras culturales.
Entre los firmantes están Geoffrey Hinton y Yoshua Bengio, dos de las figuras más influyentes en el desarrollo del aprendizaje profundo; Steve Wozniak, cofundador de Apple; y varios premios Nobel. La lista también incorpora nombres alejados entre sí en lo político y cultural, como Steve Bannon y el príncipe Harry. Esa mezcla busca presentar la inquietud por la IA avanzada como una cuestión que ya no pertenece sólo a investigadores y empresas tecnológicas.
Una prohibición condicionada, no una pausa temporal fija
La declaración no reclama simplemente una pausa de unos meses ni propone un calendario concreto. Su exigencia es más ambiciosa: detener la carrera hacia la superinteligencia hasta que haya una base científica suficiente para afirmar que esos sistemas pueden desarrollarse y gobernarse de forma segura.
El documento plantea una prohibición que no debería levantarse antes de que exista consenso científico sobre un desarrollo seguro y controlable, junto con un fuerte respaldo público. Es una fórmula deliberadamente exigente. No basta con que una empresa asegure haber realizado pruebas internas, ni con que un regulador dé luz verde a un producto concreto.
Por superinteligencia se entiende una IA que supera ampliamente a los humanos en prácticamente todas las tareas intelectuales relevantes. Es un concepto distinto de la inteligencia artificial general, o AGI, que suele describirse como un sistema capaz de igualar la versatilidad humana en muchas tareas. La superinteligencia sería un escalón posterior y, por ahora, hipotético: no hay evidencia pública de que exista un sistema de ese tipo.
Del debate técnico al desacuerdo sobre quién decide
La petición llega cuando las grandes compañías de IA compiten por modelos cada vez más capaces, agentes que ejecutan tareas de varios pasos y sistemas diseñados para automatizar trabajo intelectual. OpenAI, Google, Anthropic, xAI y Meta han situado la construcción de sistemas más generales entre sus objetivos, aunque difieren en sus plazos y definiciones.
Los firmantes cuestionan que una decisión de ese alcance pueda quedar en manos de un número reducido de laboratorios, inversores y gobiernos. El problema no es sólo que una IA muy potente pudiera fallar o ser utilizada con fines dañinos. También está en juego quién controla una infraestructura capaz de concentrar poder económico, militar y político a una escala inédita.
El Future of Life Institute acompaña la iniciativa con datos de opinión pública que apuntan a una distancia notable entre la carrera empresarial y las preferencias sociales. En Estados Unidos, alrededor del 5% de los encuestados respaldaría avanzar hacia la superinteligencia sin regulación. El dato no equivale a un mandato político para prohibirla, pero sí debilita la idea de que acelerar sin límites cuente con una aceptación ciudadana clara.
Un acuerdo amplio no resuelve el principal obstáculo
La declaración es relevante por el número y la diversidad de sus firmas, pero no crea una obligación legal. Convertir ese llamamiento en una prohibición requeriría acuerdos entre países con intereses estratégicos enfrentados y mecanismos de verificación difíciles de diseñar.
También persiste una cuestión práctica: no existe una frontera técnica universal que permita identificar con precisión cuándo un modelo pasa de ser muy capaz a encaminarse hacia la superinteligencia. Las empresas pueden medir rendimiento en pruebas, capacidad de programación o autonomía en tareas, pero ninguna métrica certifica por sí sola que un sistema sea seguro y controlable a largo plazo.
La petición desplaza, aun así, el centro del debate. Ya no se limita a pedir más evaluaciones de seguridad para los modelos actuales. Exige decidir antes si la creación de una inteligencia que supere a la humana debe ser un objetivo legítimo, bajo qué condiciones y con qué autorización democrática.
