28 países firman en Bletchley Park el primer pacto sobre riesgos de la IA

Bletchley Park, la mansión victoriana donde Alan Turing y su equipo descifraron los códigos nazis durante la Segunda Guerra Mundial, ha sido hoy escenario de otro momento con vocación histórica: la firma de la Declaración de Bletchley, el primer acuerdo internacional centrado específicamente en los riesgos de la inteligencia artificial más avanzada.

Veintiocho países y la Unión Europea han rubricado el documento en la jornada inaugural de la Cumbre de Seguridad de la IA (AI Safety Summit), organizada por el gobierno británico de Rishi Sunak. La cumbre se prolonga hasta mañana, jueves, con más sesiones de trabajo entre gobiernos, empresas y académicos.

Un texto breve pero con un logro diplomático notable

La Declaración de Bletchley no es un tratado vinculante ni establece mecanismos de control. Es una declaración de intenciones: reconoce que los llamados "modelos de frontera" —los sistemas de IA más potentes y de propósito general— plantean riesgos que van desde los daños ya visibles, como la desinformación o los sesgos discriminatorios, hasta escenarios más especulativos de riesgo catastrófico o incluso existencial. El texto llama a los países a cooperar en la evaluación de esos riesgos y a compartir investigación sobre seguridad de la IA.

Lo relevante no está tanto en el contenido, deliberadamente prudente, como en la lista de firmantes. Estados Unidos y China han suscrito el mismo documento, algo poco frecuente en un momento de tensión geopolítica creciente entre ambas potencias. Junto a ellos figuran el resto de países del G7, la Unión Europea, y economías emergentes en IA como India, Brasil, Arabia Saudí, Emiratos Árabes Unidos, Nigeria o Kenia. Reunir a este grupo tan heterogéneo en un mismo texto sobre IA, apenas un año después del lanzamiento de ChatGPT, es en sí mismo el resultado más tangible de la cumbre.

Institutos de seguridad a ambos lados del Atlántico

La cumbre ha servido también de escaparate para anuncios institucionales concretos. El Reino Unido ha confirmado la creación de su AI Safety Institute, que evolucionará a partir del grupo de trabajo sobre IA de frontera (Frontier AI Taskforce) que Sunak puso en marcha meses atrás. Su misión será evaluar la seguridad de los modelos más avanzados antes de su despliegue público.

En paralelo, la vicepresidenta de Estados Unidos, Kamala Harris, ha viajado hoy a Londres para anunciar la creación de un instituto equivalente en su país, el US AI Safety Institute, encuadrado en el Instituto Nacional de Estándares y Tecnología (NIST). En su discurso, Harris ha insistido en que los riesgos de la IA no se limitan a hipotéticos escenarios de largo plazo, sino que incluyen daños ya presentes: desde la desinformación electoral hasta la pérdida de empleos o el uso indebido por parte de actores maliciosos.

Esa insistencia refleja una tensión que ha recorrido los preparativos de la cumbre desde que el Gobierno británico la anunció este verano: mientras algunos participantes —entre ellos varias de las grandes empresas de IA— han puesto el foco en riesgos existenciales asociados a futuros sistemas mucho más capaces, otros gobiernos y organizaciones de la sociedad civil han reclamado que la prioridad sean los daños que la IA ya está causando hoy.

Compromisos voluntarios de las grandes tecnológicas

La cumbre ha reunido también a responsables de OpenAI, Google DeepMind, Anthropic, Microsoft y Meta, entre otras compañías, que han acudido junto a representantes gubernamentales y académicos como Yoshua Bengio, uno de los científicos más citados en aprendizaje profundo. Bengio ha sido designado para liderar la elaboración de un informe científico internacional sobre el estado de la seguridad en IA, una suerte de equivalente al panel intergubernamental sobre cambio climático pero aplicado a la inteligencia artificial.

En el marco de la cumbre, varias de estas empresas se han comprometido a dar acceso anticipado a sus modelos más potentes a los gobiernos, para que estos puedan someterlos a pruebas de seguridad antes de su lanzamiento comercial. Se trata, de nuevo, de compromisos voluntarios: no hay ley que obligue a ello, ni sanción prevista si no se cumplen.

Qué queda por resolver

La Declaración de Bletchley no crea ningún organismo regulador ni establece qué modelos deberían someterse a supervisión ni con qué criterios. Tampoco resuelve el desacuerdo de fondo sobre si el riesgo prioritario es el que ya existe —discriminación algorítmica, desinformación, vigilancia masiva— o el que podría llegar con sistemas mucho más capaces que los actuales.

Lo que sí deja esta primera jornada es un precedente: gobiernos con visiones muy distintas sobre la tecnología, la geopolítica y los derechos digitales han aceptado sentarse a firmar un texto común sobre IA. Si ese gesto se traduce en normas concretas, instituciones con capacidad real de supervisión o simplemente en otra ronda de declaraciones bienintencionadas, es algo que dependerá de lo que ocurra en las próximas cumbres ya anunciadas, previstas en Corea del Sur y Francia.