Newsom veta la SB 1047, el proyecto californiano para controlar la IA avanzada

El gobernador de California, Gavin Newsom, ha vetado este domingo la SB 1047, uno de los proyectos de regulación de inteligencia artificial más ambiciosos de Estados Unidos. La norma pretendía obligar a los creadores de los modelos más potentes a demostrar que habían evaluado y reducido riesgos graves antes de ponerlos a disposición de terceros.

La decisión importa más allá de California. El estado concentra buena parte de las empresas, inversores y laboratorios que lideran la carrera por los modelos de IA generativa. Una ley estatal podía haber acabado funcionando como referencia práctica para el sector, incluso sin ser una norma federal.

Una ley centrada en los modelos de frontera

La SB 1047, promovida por el senador estatal Scott Wiener, se llamaba formalmente Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. Su objetivo era establecer obligaciones para los desarrolladores de modelos cuyo entrenamiento superara 10^26 operaciones de coma flotante o enteras. El proyecto consideraba también cubiertos los modelos cuyo desarrollo hubiese costado más de 100 millones de dólares.

La propuesta exigía a esas compañías desarrollar protocolos de seguridad, probar si sus modelos podían facilitar daños críticos y conservar la capacidad de desactivar el sistema si fuera necesario. Entre esos daños se incluían la creación de armas químicas, biológicas, radiológicas o nucleares, ciberataques con consecuencias graves y otros escenarios de catástrofe a gran escala.

No se trataba, por tanto, de regular cualquier aplicación que use IA. Un chatbot de atención al cliente, un generador de imágenes o una herramienta de análisis documental no entraban automáticamente en el perímetro de la ley. El texto apuntaba a los modelos base más costosos, aquellos que después pueden adaptarse y distribuirse para múltiples usos.

También contemplaba la creación de una división pública especializada en modelos de frontera y vías para que el fiscal general de California actuase ante incumplimientos. Sus defensores sostenían que, cuando estos sistemas alcancen capacidades especialmente peligrosas, no bastará con códigos voluntarios de conducta.

El problema de medir el riesgo por el coste

Newsom ha coincidido con el propósito de reforzar la seguridad, pero ha rechazado el mecanismo elegido. En su mensaje de veto argumenta que concentrarse en los modelos más grandes y caros puede generar una falsa sensación de seguridad.

El gobernador señala que un modelo relativamente pequeño podría emplearse en un contexto de alto riesgo, por ejemplo para tomar decisiones críticas o procesar datos sensibles, mientras que otro mucho mayor podría tener usos menos peligrosos. El tamaño del entrenamiento, el dinero invertido o la potencia de cálculo son indicadores relevantes, pero no explican por sí solos qué puede hacer un sistema ni cómo se desplegará.

Ese es uno de los debates centrales en la regulación de IA. Hay normas que intentan controlar la tecnología en función de su potencia y otras que se fijan en el uso: no es lo mismo un modelo que resume textos que uno integrado en una infraestructura energética, una red sanitaria o un sistema de defensa. La Ley de IA de la Unión Europea, por ejemplo, combina obligaciones ligadas a usos de alto riesgo con requisitos específicos para determinados modelos de propósito general.

Apoyo y rechazo en Silicon Valley

La SB 1047 había dividido al sector. Organizaciones de seguridad de IA y figuras como Geoffrey Hinton y Yoshua Bengio apoyaron el proyecto al considerar que establecía salvaguardas proporcionadas para una tecnología con capacidades crecientes.

Frente a ellos, varias empresas tecnológicas, inversores y grupos de la industria alertaron de que la ley podía elevar las barreras de entrada para compañías pequeñas, penalizar el desarrollo de modelos abiertos y trasladar actividad fuera de California. Anthropic respaldó una versión modificada del proyecto, mientras que OpenAI y Meta expresaron objeciones a la propuesta.

El desacuerdo no era solo empresarial. También reflejaba una cuestión difícil de resolver: cómo exigir preparación ante riesgos aún poco frecuentes sin convertir esa preparación en una carga que solo puedan asumir los gigantes tecnológicos.

California buscará un marco alternativo

El veto no supone que California abandone la regulación de la inteligencia artificial. Newsom ha encargado a expertos, entre ellos la investigadora Fei-Fei Li, la elaboración de un marco empírico para analizar las capacidades y los riesgos de los sistemas de IA de frontera. El estado también trabaja en evaluaciones sobre el uso seguro de IA en sus propias administraciones.

Además, el gobernador ha firmado otras iniciativas relacionadas con la transparencia y la protección frente a contenidos generados artificialmente. La diferencia es que la SB 1047 aspiraba a intervenir directamente en el desarrollo de los modelos más avanzados antes de que llegasen al mercado.

La discusión volverá. El veto deja sin efecto esta versión de la ley, pero no resuelve quién debe vigilar los modelos capaces de realizar tareas cada vez más complejas, con qué criterios y antes de qué tipo de despliegue. California mantiene así abierto un debate que Washington y Bruselas observan de cerca.