Sam Altman pide al Senado licencias para la IA más potente

Sam Altman, consejero delegado de OpenAI, ha pedido este martes al Senado de Estados Unidos que cree una agencia federal dedicada a la inteligencia artificial y establezca licencias para los sistemas más potentes. La petición resulta relevante porque procede de la empresa detrás de ChatGPT y GPT-4, dos productos que han llevado la IA generativa al centro del debate público en pocos meses.

Altman ha comparecido ante el subcomité de Privacidad, Tecnología y Derecho del Senado, presidido por el demócrata Richard Blumenthal. Junto a él han intervenido Gary Marcus, investigador y crítico de la actual carrera por modelos cada vez mayores, y Christina Montgomery, responsable de privacidad y confianza de IBM.

Una licencia para los modelos que superen un umbral

La propuesta de OpenAI no plantea licenciar cualquier programa que use inteligencia artificial. Altman ha defendido un sistema dirigido a los modelos de frontera: aquellos con capacidades suficientemente avanzadas como para plantear riesgos importantes.

La agencia propuesta debería definir ese umbral, exigir pruebas de seguridad antes del despliegue y tener capacidad para conceder o retirar licencias. También podría imponer auditorías independientes y normas sobre cómo se evalúan los modelos antes de ponerlos a disposición de empresas o ciudadanos.

El problema no es menor. Los modelos de lenguaje son sistemas entrenados con enormes cantidades de texto para predecir la siguiente palabra y generar respuestas. Esa técnica permite redactar, resumir, programar o mantener conversaciones convincentes, pero también puede producir información falsa con seguridad aparente, ayudar a automatizar fraudes o facilitar la creación de campañas de desinformación.

Altman expresó el temor de que la industria cause un daño significativo al mundo. Es una declaración inusual en un sector acostumbrado a presentar cada avance como una mejora inevitable, aunque llega cuando OpenAI se ha convertido en una de las empresas que más se benefician de la expansión de esta tecnología.

La regulación como cuestión de seguridad y competencia

El debate estadounidense parte de una dificultad práctica: regular la IA sin tratar del mismo modo un filtro de correo no deseado, un sistema de diagnóstico médico y un modelo capaz de generar texto, código e imágenes a gran escala.

Una licencia limitada a los sistemas más capaces evitaría, en teoría, cargar con trámites excesivos a pequeñas empresas, investigadores y desarrolladores que emplean modelos ya existentes. Pero la frontera será difícil de dibujar. Un modelo puede no parecer peligroso en una prueba aislada y, sin embargo, adquirir nuevas capacidades cuando se conecta a herramientas externas, bases de datos o software que le permite ejecutar acciones.

También está la cuestión de quién puede cumplir las reglas. Las grandes compañías disponen de equipos jurídicos, infraestructura de cálculo y recursos para someter sus sistemas a evaluaciones costosas. Una regulación mal diseñada podría reforzar precisamente a las empresas que ya dominan el mercado, dejando menos espacio para competidores y proyectos abiertos.

Gary Marcus ha defendido durante la audiencia que las empresas no deben decidir por sí mismas cuándo sus productos son seguros. Su posición coincide con una preocupación creciente: las pruebas internas y los compromisos voluntarios pueden ser útiles, pero no sustituyen a una supervisión pública cuando los efectos de un fallo recaen sobre terceros.

Un Congreso que llega después de ChatGPT

La comparecencia se produce seis meses después del lanzamiento público de ChatGPT y dos meses después de GPT-4. La rapidez con la que estas herramientas han llegado a escuelas, oficinas y servicios digitales ha dejado al descubierto que Estados Unidos carece de una ley federal específica para la IA.

La Administración Biden ya ha publicado un marco de principios, la Declaración de Derechos de la IA, pero no tiene fuerza de ley. Distintos organismos federales pueden intervenir en ámbitos concretos, como consumo, competencia, empleo o protección de datos, aunque ninguno vigila de forma integral los modelos de propósito general.

El Senado no ha salido hoy con una norma lista para aprobar. Sí ha empezado a tratar la IA como una infraestructura con posibles efectos económicos y sociales amplios, no solo como un producto tecnológico más. El siguiente paso será decidir si crea una autoridad nueva, refuerza a los reguladores existentes o combina ambas vías; y, sobre todo, si puede hacerlo con suficiente rapidez para seguir el ritmo de la tecnología que quiere vigilar.