Una carta reclama frenar seis meses la IA más potente que GPT-4

El Future of Life Institute ha publicado este miércoles una carta abierta que pide una pausa de al menos seis meses en el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4. Entre los firmantes figuran Elon Musk, el investigador Yoshua Bengio y más de un millar de académicos, tecnólogos y directivos.

La petición llega apenas una semana después del lanzamiento de GPT-4 por OpenAI. No plantea detener toda la investigación en inteligencia artificial, sino frenar temporalmente la carrera por entrenar modelos de lenguaje cada vez mayores mientras se acuerdan medidas de seguridad comunes.

La petición: parar los sistemas posteriores a GPT-4

GPT-4 es un modelo de lenguaje de gran tamaño: un sistema capaz de generar texto, resumir documentos, programar y responder preguntas a partir de enormes cantidades de datos. OpenAI ha mostrado también que puede trabajar con imágenes, aunque esa capacidad no está disponible de forma general para todos los usuarios.

La carta solicita que los laboratorios suspendan durante seis meses el entrenamiento de modelos más potentes que GPT-4. Si esa pausa no pudiera garantizarse de forma voluntaria, los firmantes proponen que intervengan los gobiernos.

El texto no cuestiona que la IA pueda aportar beneficios en ámbitos como la educación, la ciencia o la productividad. Su advertencia se dirige a la velocidad de despliegue: sostiene que las empresas están inmersas en una competencia por lanzar sistemas con capacidades que todavía no se comprenden ni se controlan suficientemente.

La elección de GPT-4 como línea de corte es relevante. No se trata de una petición abstracta de regular la IA, sino de una respuesta a una generación de modelos que empieza a trasladar estas herramientas desde las demostraciones técnicas a productos de uso masivo. Microsoft ya ha incorporado tecnología de OpenAI a Bing, mientras Google acelera el lanzamiento de Bard.

Seguridad antes que una moratoria indefinida

Los seis meses solicitados no pretenden ser un paréntesis sin actividad. La carta plantea aprovecharlos para desarrollar protocolos de seguridad compartidos y auditables por expertos independientes. Entre las medidas que propone están los sistemas para distinguir contenido generado por IA, mecanismos de trazabilidad, evaluaciones externas antes del despliegue y organismos públicos con capacidad de supervisión.

La idea de fondo es sencilla: antes de aumentar la potencia de los modelos, habría que saber medir mejor sus riesgos. Los modelos de lenguaje pueden producir respuestas convincentes pero falsas, reproducir sesgos presentes en sus datos de entrenamiento o facilitar campañas de desinformación a gran escala. También pueden automatizar parte de tareas profesionales y educativas sin que empresas, administraciones y trabajadores hayan definido todavía reglas claras para usarlos.

El debate no es nuevo. Investigadores como Bengio llevan años alertando de que el desarrollo de sistemas muy capaces exige más investigación en alineamiento, el campo que busca que una IA actúe de acuerdo con objetivos y límites humanos. Lo que cambia ahora es la escala pública del asunto: herramientas que hace poco estaban restringidas a laboratorios tecnológicos han llegado a millones de personas en pocos meses.

Una petición difícil de convertir en realidad

La carta tiene un valor político y simbólico, pero no crea una obligación legal. Una moratoria global requeriría coordinar a compañías con intereses comerciales distintos y a países que compiten por capacidad tecnológica. Además, resulta difícil definir con precisión qué significa que un modelo sea «más potente» que GPT-4: el tamaño no es el único factor y las capacidades pueden mejorar mediante datos, técnicas de entrenamiento, herramientas externas o combinaciones de modelos.

También hay una tensión evidente en la lista de firmantes. Musk fue cofundador de OpenAI y hoy dirige empresas con intereses directos en IA, mientras que otros suscriptores proceden de organizaciones que desarrollan o financian esta tecnología. Eso no invalida la discusión sobre seguridad, pero obliga a separar las preocupaciones legítimas de los incentivos empresariales de cada actor.

La carta coloca una cuestión incómoda sobre la mesa: si las empresas pueden lanzar modelos cada vez más capaces con rapidez, ¿quién decide cuándo están preparados para llegar al público? De momento, la respuesta depende sobre todo de las propias compañías. La presión para que entren reguladores, investigadores independientes y organismos de evaluación acaba de crecer.