Declaración de Bletchley: cómo distinguir un consenso de una norma

El 1 de noviembre de 2023, 28 Estados y la Unión Europea acordaron en Bletchley Park una declaración común sobre los riesgos de la inteligencia artificial. Estados Unidos y China figuraban en la misma lista. El logro diplomático era real, pero el verbo importa: acordaron una declaración; no aprobaron una ley, un tratado vinculante ni un regulador mundial.

La diferencia no rebaja el acontecimiento. Permite entender para qué sirve. El texto fijó un vocabulario compartido, reconoció riesgos que atraviesan fronteras y propuso cooperación científica. No determinó qué modelos necesitarían permiso, quién los evaluaría, qué prueba tendrían que superar ni qué ocurriría ante un incumplimiento. Leer un pacto exige separar consenso político, obligación jurídica y capacidad material.

Qué dice el documento

La Declaración de Bletchley empieza por las oportunidades de la IA y afirma que su diseño, desarrollo, despliegue y uso deben ser seguros, centrados en las personas, fiables y responsables. También enumera cuestiones presentes: derechos, transparencia, explicabilidad, equidad, responsabilidad, privacidad, protección de datos y supervisión humana.

Después enfoca riesgos particulares de la «frontera»: modelos de propósito general muy capaces y sistemas específicos que igualen o superen las capacidades más avanzadas de ese momento y puedan causar daño. El texto menciona el uso malicioso, problemas de control, ciberseguridad, biotecnología y amplificación de la desinformación. Reconoce la posibilidad de daño grave o catastrófico, deliberado o involuntario.

La declaración asigna una responsabilidad especialmente fuerte a quienes desarrollan sistemas inusualmente potentes y potencialmente dañinos. Los anima a realizar pruebas de seguridad y a ofrecer transparencia sobre cómo miden, vigilan y mitigan capacidades peligrosas. «Anima» y «afirma» describen compromisos políticos; no crean por sí mismos una orden exigible ante un tribunal.

La prueba de los siete campos

Cualquier acuerdo tecnológico puede leerse con siete preguntas. ¿Quién lo adopta? ¿Qué sistemas cubre? ¿Qué conducta exige? ¿Quién verifica? ¿Qué información debe entregarse? ¿Qué sanción existe? ¿Cuándo se revisa? Bletchley respondía con claridad a la primera y de forma general a la segunda y tercera; dejaba abiertas las demás.

Los participantes estaban identificados y representaban tradiciones regulatorias distintas. El ámbito, en cambio, dependía de una frontera móvil: «altamente capaz» y «potencialmente dañino» no son umbrales de cómputo, pruebas o uso. El documento pedía políticas basadas en riesgo que podían diferir según las circunstancias nacionales. Esa flexibilidad hizo posible el consenso y, a la vez, impidió tratarlo como una regla uniforme.

No había un auditor internacional con acceso garantizado, un formulario común de incidentes ni una sanción. Tampoco un calendario detallado para convertir las intenciones en controles. Sí había una dirección de revisión: mantener el diálogo, sostener investigación inclusiva y volver a reunirse en 2024. Ese diseño corresponde a un punto de partida diplomático.

Contar firmantes sin inflar el resultado

El comunicado británico del mismo día habló de 28 países, además de la UE, y publicó la lista. La presencia conjunta de Estados Unidos y China mostraba que ambos aceptaban el diagnóstico general y la necesidad de cooperación. No demostraba que compartieran una definición operacional de modelo de frontera ni una política de exportaciones, datos o acceso.

Una firma prueba adhesión al texto firmado, no a todas las interpretaciones de sus promotores. Para saber si el consenso se vuelve conducta hay que buscar después leyes, presupuestos, personal, acuerdos de acceso, protocolos de evaluación y resultados públicos. El indicador no es cuántos nombres aparecen bajo una declaración, sino qué mecanismos puede rastrear un tercero.

Riesgo actual y riesgo de frontera caben en la misma lectura

Presentar la cumbre como una elección entre daños presentes y catástrofes futuras falsearía el documento. La declaración menciona el uso de IA en vivienda, empleo, transporte, educación, salud, accesibilidad y justicia, y reconoce riesgos en esos ámbitos. A la vez, destaca capacidades avanzadas cuyo comportamiento es difícil de predecir.

Son escalas distintas. La discriminación en una decisión laboral puede evaluarse con datos de población, resultados y vías de recurso. Una capacidad que facilita un ataque biológico exige pruebas controladas, expertos y límites de acceso. Ambas necesitan evidencia, pero no el mismo banco de pruebas. Un instituto de seguridad que solo estudie escenarios extremos dejaría fuera daños desplegados; uno que solo audite aplicaciones actuales podría no detectar capacidades nuevas antes de su difusión.

Un instituto no equivale todavía a supervisión

Días antes de la cumbre, el primer ministro británico anunció un AI Safety Institute para desarrollar capacidad pública de examinar y probar modelos. También explicó que evolucionaría a partir de una taskforce respaldada con 100 millones de libras. Eso documentaba intención institucional, financiación previa y una misión; no garantizaba acceso obligatorio a todos los modelos.

Para que un instituto supervise de verdad necesita mandato, especialistas, infraestructura segura, modelos y documentación, métodos reproducibles e independencia para publicar límites. Si el acceso depende de la voluntad del desarrollador, la evaluación cubre solo lo que este entregue y durante el tiempo acordado. Si los resultados permanecen secretos por seguridad o propiedad intelectual, hace falta al menos publicar el protocolo, la categoría de hallazgos y las medidas adoptadas.

La prueba útil no pregunta si un instituto existe, sino qué puede hacer. ¿Puede requerir información o solo solicitarla? ¿Prueba el modelo base o el producto con herramientas? ¿Trabaja antes del lanzamiento? ¿Puede ordenar cambios? ¿Qué incidentes registra? Estas respuestas transforman un nombre institucional en capacidad comprobable.

De una declaración a un régimen verificable

El primer paso es convertir términos amplios en umbrales. Un sistema puede entrar en supervisión por recursos de entrenamiento, capacidades observadas, acceso a herramientas o uso previsto. Ningún criterio aislado basta: el cómputo no revela toda capacidad y una prueba puede quedar obsoleta. Una combinación publicada permite saber a quién se aplica la regla.

El segundo es definir evaluaciones. Deben especificar amenaza, tareas, entorno, número de intentos, acceso del evaluador y criterio de fallo. La ciberseguridad, por ejemplo, no se resume en una puntuación general: importa si el modelo identifica vulnerabilidades, genera código operativo, encadena acciones y elude controles bajo condiciones realistas.

El tercero es crear consecuencias y aprendizaje. Un resultado puede activar mitigaciones, retrasar un despliegue, restringir herramientas o exigir seguimiento. Los incidentes alimentan nuevas pruebas. Un resumen público permite comprobar que el proceso ocurrió sin revelar detalles que faciliten abuso.

La versión también gobierna

Una declaración viva necesita control de versiones. La copia de trabajo debería conservar fecha, lista de participantes y redacción de cada compromiso; una adhesión posterior no puede presentarse como si hubiera ocurrido en la primera cumbre. También conviene distinguir «país representado», «participante» y «firmante»: los comunicados pueden usar esas palabras de manera intercambiable aunque expresen actos distintos.

La auditoría debe enlazar la versión que sustentó la decisión y registrar cambios posteriores por separado. Si una frase se modifica, se anota quién la aceptó, desde cuándo y si altera obligaciones nacionales. Esta disciplina evita que una página actualizada reescriba sin querer la historia diplomática. En regulación tecnológica, una fecha no es metadato decorativo: determina qué compromiso podía exigir un ciudadano en ese momento.

Cómo leer el próximo pacto

Ante cualquier anuncio internacional, conserva tres columnas. En «texto» copia el verbo exacto y el objeto del compromiso. En «mecanismo» anota institución, dinero, acceso, prueba y calendario. En «consecuencia» registra auditoría, publicación, corrección y sanción. Una casilla vacía no invalida el acuerdo; muestra el trabajo pendiente.

Bletchley fue importante porque países enfrentados aceptaron un problema común y una agenda científica. Su límite era igual de importante: el consenso no evaluaba un solo modelo ni obligaba a un solo desarrollador. La capacidad transferible es distinguir señal, mecanismo y cumplimiento. Un pacto empieza a proteger cuando sus sustantivos —seguridad, responsabilidad, cooperación— se convierten en verbos que alguien puede ejecutar y otro puede verificar.