Una carta reclama frenar seis meses la IA más potente que GPT-4

El 22 de marzo de 2023, el Future of Life Institute publicó una carta abierta que pedía a los laboratorios pausar durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4. La lista de firmas cambia con el tiempo, por lo que no sirve como denominador estable. El texto sí permite auditar la propuesta: alcance, duración, condiciones y medidas que deberían desarrollarse durante la pausa.

La petición llega apenas una semana después del lanzamiento de GPT-4 por OpenAI. No plantea detener toda la investigación en inteligencia artificial, sino frenar temporalmente la carrera por entrenar modelos de lenguaje cada vez mayores mientras se acuerdan medidas de seguridad comunes.

La petición: parar los sistemas posteriores a GPT-4

GPT-4 es un modelo de lenguaje de gran tamaño: un sistema capaz de generar texto, resumir documentos, programar y responder preguntas a partir de enormes cantidades de datos. OpenAI ha mostrado también que puede trabajar con imágenes, aunque esa capacidad no está disponible de forma general para todos los usuarios.

La carta solicita que los laboratorios suspendan durante seis meses el entrenamiento de modelos más potentes que GPT-4. Si esa pausa no pudiera garantizarse de forma voluntaria, los firmantes proponen que intervengan los gobiernos.

El texto no cuestiona que la IA pueda aportar beneficios en ámbitos como la educación, la ciencia o la productividad. Su advertencia se dirige a la velocidad de despliegue: sostiene que las empresas están inmersas en una competencia por lanzar sistemas con capacidades que todavía no se comprenden ni se controlan suficientemente.

La elección de GPT-4 como línea de corte es relevante. No se trata de una petición abstracta de regular la IA, sino de una respuesta a una generación de modelos que empieza a trasladar estas herramientas desde las demostraciones técnicas a productos de uso masivo. Microsoft ya ha incorporado tecnología de OpenAI a Bing, mientras Google acelera el lanzamiento de Bard.

Seguridad antes que una moratoria indefinida

Los seis meses solicitados no pretenden ser un paréntesis sin actividad. La carta plantea aprovecharlos para desarrollar protocolos de seguridad compartidos y auditables por expertos independientes. Entre las medidas que propone están los sistemas para distinguir contenido generado por IA, mecanismos de trazabilidad, evaluaciones externas antes del despliegue y organismos públicos con capacidad de supervisión.

La idea de fondo es sencilla: antes de aumentar la potencia de los modelos, habría que saber medir mejor sus riesgos. Los modelos de lenguaje pueden producir respuestas convincentes pero falsas, reproducir sesgos presentes en sus datos de entrenamiento o facilitar campañas de desinformación a gran escala. También pueden automatizar parte de tareas profesionales y educativas sin que empresas, administraciones y trabajadores hayan definido todavía reglas claras para usarlos.

El debate no es nuevo. Investigadores como Bengio llevan años alertando de que el desarrollo de sistemas muy capaces exige más investigación en alineamiento, el campo que busca que una IA actúe de acuerdo con objetivos y límites humanos. Lo que cambia ahora es la escala pública del asunto: herramientas que hace poco estaban restringidas a laboratorios tecnológicos han llegado a millones de personas en pocos meses.

Una petición difícil de convertir en realidad

La carta tiene un valor político y simbólico, pero no crea una obligación legal. Una moratoria global requeriría coordinar a compañías con intereses comerciales distintos y a países que compiten por capacidad tecnológica. Además, resulta difícil definir con precisión qué significa que un modelo sea «más potente» que GPT-4: el tamaño no es el único factor y las capacidades pueden mejorar mediante datos, técnicas de entrenamiento, herramientas externas o combinaciones de modelos.

También hay una tensión evidente en la lista de firmantes. Musk fue cofundador de OpenAI y hoy dirige empresas con intereses directos en IA, mientras que otros suscriptores proceden de organizaciones que desarrollan o financian esta tecnología. Eso no invalida la discusión sobre seguridad, pero obliga a separar las preocupaciones legítimas de los incentivos empresariales de cada actor.

La carta coloca una cuestión incómoda sobre la mesa: si las empresas pueden lanzar modelos cada vez más capaces con rapidez, ¿quién decide cuándo están preparados para llegar al público? De momento, la respuesta depende sobre todo de las propias compañías. La presión para que entren reguladores, investigadores independientes y organismos de evaluación acaba de crecer.

Una pausa necesita una unidad verificable

“Más potente que GPT-4” no define por sí solo el perímetro. Capacidad puede crecer por tamaño, datos, herramientas, tiempo de inferencia o combinación de sistemas. Un acuerdo operativo necesitaría pruebas de referencia, actividades incluidas y tratamiento de mejoras que no entrenan un modelo nuevo.

También debe distinguir entrenamiento, evaluación, despliegue e investigación de seguridad. Detener una fase mientras continúa otra puede ser coherente, pero tiene que declararse. Sin registro de ejecuciones y auditoría, una promesa voluntaria no permite comprobar cumplimiento.

El calendario no es el resultado

Un plazo solo aporta valor si produce artefactos: protocolos compartidos, evaluaciones externas, comunicación de incidentes y criterios de lanzamiento. Cada uno necesita responsable, método y publicación. “Trabajar en seguridad” sin entregables convierte la moratoria en espera simbólica.

La carta propone procedencia de contenido y organismos de supervisión, entre otras medidas. No todas dependen de detener entrenamiento ni resuelven el mismo riesgo. Conviene mapear cada herramienta a la amenaza que aborda: una etiqueta ayuda con origen, pero no corrige una decisión automatizada errónea.

Firmas, argumentos y autoridad son capas distintas

Una persona conocida puede llamar atención, pero su nombre no demuestra una premisa. La lista debe leerse junto al texto y los posibles intereses declarados. A la inversa, un conflicto de interés no invalida automáticamente un argumento: se comprueba el mecanismo y la evidencia.

La carta no crea obligación legal. Para pasar de petición a regla harían falta autoridad, jurisdicción, definiciones, supervisión y consecuencias. Esa diferencia evita informar sobre una iniciativa privada como si ya hubiese cambiado el marco normativo.

Cómo comparar propuestas de gobernanza

Construye una tabla con riesgo, acción, sujeto, duración, evidencia y vía de cumplimiento. Añade qué investigación podría continuar y qué sucede al terminar. Prueba después escenarios de evasión: entrenamiento en otra jurisdicción, mejora por herramientas o publicación de pesos por un tercero.

La capacidad transferible es convertir una declaración sobre riesgo de IA en un mecanismo auditable. Preguntar quién debe hacer qué, durante cuánto tiempo y cómo se comprueba permite discutir la propuesta sin confundir urgencia retórica con diseño eficaz.

La capacidad de cumplir debe medirse antes

Un laboratorio pequeño y uno integrado en una gran nube no tienen la misma visibilidad sobre cómputo, proveedores y socios. El diseño debe decir qué registros se exigen y quién puede inspeccionarlos sin revelar secretos innecesarios. Si solo las organizaciones transparentes resultan auditables, la pausa puede castigar justo a quien informa.

La coordinación internacional añade diferencias de calendario y autoridad. Un acuerdo voluntario puede adoptar definiciones comunes mientras los gobiernos preparan normas, pero no reemplaza la ley. Identificar el vehículo —compromiso, contrato, estándar o regulación— aclara qué consecuencia sigue al incumplimiento.

Una evaluación previa reduce discusiones circulares

Antes del plazo, se fija una batería con capacidades y riesgos, criterios de paso y publicación de resultados. Durante la pausa se prueba si los controles reducen fallos. Al terminar, la decisión debe referirse a esa evidencia; si basta con que transcurra el calendario, no existe condición técnica de salida.

También se registra el coste de oportunidad sin convertirlo en veto automático. Investigación beneficiosa aplazada, desplazamiento hacia actores no participantes y concentración son riesgos del mecanismo. Se comparan con los riesgos de continuar sin controles bajo supuestos explícitos.

El debate mejora cuando cada parte puede señalar qué observación cambiaría su posición. Si ninguna evidencia imaginable cuenta, ya no se discute un mecanismo comprobable. La tabla ayuda a preservar desacuerdos legítimos sin fingir que una cifra única resolverá decisiones políticas.