Altman, Hassabis y Hinton firman que la IA es un riesgo de extinción

Una frase, cientos de firmas

El Center for AI Safety, una organización de investigación con sede en San Francisco, ha publicado hoy una declaración que no llega a las treinta palabras pero condensa una de las advertencias más contundentes que ha hecho el propio sector sobre sí mismo. El texto dice literalmente: "Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".

La lista de firmantes es lo que convierte esta frase en noticia. Entre los nombres figuran Sam Altman, consejero delegado de OpenAI; Demis Hassabis, al frente de Google DeepMind; y Geoffrey Hinton y Yoshua Bengio, dos de los tres investigadores considerados padres del aprendizaje profundo moderno (junto con Yann LeCun, que no ha firmado). Se suman directivos de Anthropic, decenas de catedráticos de universidades como Stanford, Berkeley o el MIT, y otras figuras del sector.

Por qué importa quién firma

No es la primera vez que se advierte sobre los riesgos de la inteligencia artificial. Lo inusual es que quienes firman ahora son, en muchos casos, las mismas personas que construyen los sistemas más avanzados que existen. Altman dirige la compañía detrás de ChatGPT y GPT-4; Hassabis lidera el laboratorio que fusionó DeepMind con Google Brain hace apenas unas semanas. Que ambos suscriban una comparación con armas nucleares sobre su propia tecnología es, cuando menos, una posición pública poco habitual en cualquier otra industria.

Hinton llevaba pocas semanas en el foco mediático tras anunciar en mayo su salida de Google, precisamente para poder hablar con libertad sobre los peligros de la IA sin las cautelas de un empleado corporativo. Su firma aquí confirma que no se trataba de un gesto aislado, sino de una postura sostenida.

Una frase deliberadamente corta

El formato elegido por el Center for AI Safety —una sola oración, sin desarrollo ni plan de acción adjunto— parece buscar precisamente eso: que la brevedad y la contundencia no dejen margen a la ambigüedad ni a la negociación de matices, algo que sí ocurrió con la carta abierta publicada en marzo por el Future of Life Institute, que pedía una pausa de seis meses en el entrenamiento de sistemas más potentes que GPT-4 y que generó división entre quienes la firmaron y quienes, aun compartiendo la preocupación, discreparon del remedio propuesto.

Aquella carta, sin embargo, no logró la adhesión de los máximos responsables de OpenAI ni de Google DeepMind, cuyas empresas eran señaladas implícitamente como las que debían frenar. La declaración de hoy sortea ese problema: no pide detener nada ni fija plazos, solo establece una jerarquía de prioridades. Es más fácil de firmar y, por eso mismo, más difícil de rebatir después.

El riesgo de extinción, sin desglosar

La declaración no explica qué mecanismo concreto llevaría de un sistema de IA a un escenario de extinción humana, ni ofrece medidas específicas. El Center for AI Safety ha optado por dejar esa discusión para después, centrando el documento en establecer un consenso mínimo: que el riesgo existe y merece la misma atención institucional que otras amenazas globales ya reconocidas como tales, con órganos, tratados y presupuestos dedicados.

Esa ambigüedad es también su punto débil. Sin especificar si el temor apunta a sistemas autónomos que escapan al control humano, a su uso deliberado con fines militares o biológicos, o a la concentración de poder que su desarrollo implica, la frase deja que cada firmante proyecte su propia lectura del peligro. Es precisamente lo que ha permitido reunir bajo un mismo texto a investigadores académicos preocupados por la seguridad técnica y a directivos de las empresas que lideran la carrera comercial por construir sistemas cada vez más capaces.

Lo que viene después

La declaración llega en un momento en que reguladores a ambos lados del Atlántico avanzan en marcos normativos para la IA: la Unión Europea negocia estos meses su Ley de IA, y el propio Altman había comparecido en el Senado de Estados Unidos semanas atrás pidiendo licencias y supervisión para los modelos más potentes. Que los mismos ejecutivos que piden regulación firmen ahora una comparación con armas nucleares refuerza esa demanda, aunque también alimenta la sospecha, ya presente en el debate público, de que una regulación exigente podría beneficiar a quienes ya dominan el mercado al elevar la barrera de entrada para nuevos competidores.

Por ahora, el documento no tiene efecto legal ni obliga a nada. Su valor es simbólico: fija, en la voz de quienes mejor conocen la tecnología, que el riesgo existe y que merece un lugar en la agenda de los gobiernos. Queda por ver si esa agenda se traduce en instituciones concretas o si la frase queda como uno más de los gestos de un año en el que la IA generativa ha entrado, de golpe, en la conversación pública global.