Newsom veta la SB 1047, el proyecto californiano para controlar la IA avanzada

El 29 de septiembre de 2024, el gobernador Gavin Newsom vetó la SB 1047. En su mensaje oficial de veto aceptó la necesidad de salvaguardas, pero sostuvo que concentrarlas en modelos grandes y costosos podía dejar fuera sistemas pequeños desplegados en contextos peligrosos; eso es un argumento sobre el perímetro, no una prueba de que el riesgo no exista.

La decisión importa más allá de California. El estado concentra buena parte de las empresas, inversores y laboratorios que lideran la carrera por los modelos de IA generativa. Una ley estatal podía haber acabado funcionando como referencia práctica para el sector, incluso sin ser una norma federal.

Una ley centrada en los modelos de frontera

La SB 1047, promovida por el senador estatal Scott Wiener, se llamaba formalmente Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. Su objetivo era establecer obligaciones para los desarrolladores de modelos cuyo entrenamiento superara 10^26 operaciones de coma flotante o enteras. El proyecto consideraba también cubiertos los modelos cuyo desarrollo hubiese costado más de 100 millones de dólares. Fuente

La propuesta exigía a esas compañías desarrollar protocolos de seguridad, probar si sus modelos podían facilitar daños críticos y conservar la capacidad de desactivar el sistema si fuera necesario. Entre esos daños se incluían la creación de armas químicas, biológicas, radiológicas o nucleares, ciberataques con consecuencias graves y otros escenarios de catástrofe a gran escala.

No se trataba, por tanto, de regular cualquier aplicación que use IA. Un chatbot de atención al cliente, un generador de imágenes o una herramienta de análisis documental no entraban automáticamente en el perímetro de la ley. El texto apuntaba a los modelos base más costosos, aquellos que después pueden adaptarse y distribuirse para múltiples usos.

También contemplaba la creación de una división pública especializada en modelos de frontera y vías para que el fiscal general de California actuase ante incumplimientos. Sus defensores sostenían que, cuando estos sistemas alcancen capacidades especialmente peligrosas, no bastará con códigos voluntarios de conducta.

El problema de medir el riesgo por el coste

Newsom ha coincidido con el propósito de reforzar la seguridad, pero ha rechazado el mecanismo elegido. En su mensaje de veto argumenta que concentrarse en los modelos más grandes y caros puede generar una falsa sensación de seguridad.

El gobernador señala que un modelo relativamente pequeño podría emplearse en un contexto de alto riesgo, por ejemplo para tomar decisiones críticas o procesar datos sensibles, mientras que otro mucho mayor podría tener usos menos peligrosos. El tamaño del entrenamiento, el dinero invertido o la potencia de cálculo son indicadores relevantes, pero no explican por sí solos qué puede hacer un sistema ni cómo se desplegará.

Ese es uno de los debates centrales en la regulación de IA. Hay normas que intentan controlar la tecnología en función de su potencia y otras que se fijan en el uso: no es lo mismo un modelo que resume textos que uno integrado en una infraestructura energética, una red sanitaria o un sistema de defensa. La Ley de IA de la Unión Europea, por ejemplo, combina obligaciones ligadas a usos de alto riesgo con requisitos específicos para determinados modelos de propósito general.

Apoyo y rechazo en Silicon Valley

La SB 1047 había dividido al sector. Organizaciones de seguridad de IA y figuras como Geoffrey Hinton y Yoshua Bengio apoyaron el proyecto al considerar que establecía salvaguardas proporcionadas para una tecnología con capacidades crecientes.

Frente a ellos, varias empresas tecnológicas, inversores y grupos de la industria alertaron de que la ley podía elevar las barreras de entrada para compañías pequeñas, penalizar el desarrollo de modelos abiertos y trasladar actividad fuera de California. Anthropic respaldó una versión modificada del proyecto, mientras que OpenAI y Meta expresaron objeciones a la propuesta.

El desacuerdo no era solo empresarial. También reflejaba una cuestión difícil de resolver: cómo exigir preparación ante riesgos aún poco frecuentes sin convertir esa preparación en una carga que solo puedan asumir los gigantes tecnológicos.

California buscará un marco alternativo

El veto no supone que California abandone la regulación de la inteligencia artificial. Newsom ha encargado a expertos, entre ellos la investigadora Fei-Fei Li, la elaboración de un marco empírico para analizar las capacidades y los riesgos de los sistemas de IA de frontera. El estado también trabaja en evaluaciones sobre el uso seguro de IA en sus propias administraciones.

Además, el gobernador ha firmado otras iniciativas relacionadas con la transparencia y la protección frente a contenidos generados artificialmente. La diferencia es que la SB 1047 aspiraba a intervenir directamente en el desarrollo de los modelos más avanzados antes de que llegasen al mercado.

La discusión volverá. El veto deja sin efecto esta versión de la ley, pero no resuelve quién debe vigilar los modelos capaces de realizar tareas cada vez más complejas, con qué criterios y antes de qué tipo de despliegue. California mantiene así abierto un debate que Washington y Bruselas observan de cerca.

El mensaje de veto y el proyecto responden preguntas distintas

El texto legislativo muestra obligaciones y definiciones; el veto explica por qué el gobernador no las convierte en ley. Para evaluar el desacuerdo hay que ponerlos en paralelo. Una crítica al umbral no elimina protocolos, auditorías o poderes previstos en otras secciones, y apoyar la finalidad no implica aceptar el mecanismo concreto.

El marco alternativo propuesto debe medirse con la misma disciplina: responsable, calendario, documento resultante y autoridad. Encargar un informe abre un proceso; no sustituye una obligación vigente. Cuando aparezca una recomendación, habrá que distinguir borrador, norma, guía voluntaria y ley.

Tamaño y uso pueden combinarse

Un régimen puede imponer deberes de documentación a desarrolladores de frontera y controles adicionales a despliegues críticos. La primera capa aprovecha indicadores administrables; la segunda atiende contexto y consecuencias. Presentarlas como opciones excluyentes empobrece el diseño regulatorio.

También conviene preguntar quién puede verificar. Una autoevaluación sin acceso a método ni incidentes pide confianza; una publicación total puede exponer información sensible. Auditoría protegida, reporte agregado y autoridad para exigir datos son soluciones intermedias que deben aparecer en el texto.

La capacidad transferible es seguir una política desde propuesta hasta efecto: versión, aprobación, veto, alternativa, reglamento y evidencia. Un veto cierra un vehículo legislativo, no la pregunta pública. La cronología evita presentar intención como norma o ausencia de ley como ausencia de trabajo.

Un veto no decide toda la política

El mensaje explica por qué el gobernador rechazó ese texto y qué alternativa defendía en ese momento. No convierte sus argumentos en hallazgos técnicos ni impide que obligaciones parecidas reaparezcan en otra norma. La unidad de análisis es cada mecanismo, no la victoria temporal de una coalición.

Para seguir el asunto, registra qué elementos sobreviven: evaluaciones, avisos de incidentes, protección a denunciantes, autoridad supervisora o umbrales. Después busca si pasan a legislación posterior, acuerdos voluntarios o reglas de agencias. Una política puede desaparecer como número de proyecto y persistir por piezas.

La evaluación independiente necesita un encargo preciso

“Auditoría externa” no garantiza independencia ni calidad. Hay que conocer quién paga, qué acceso recibe el evaluador, si el laboratorio puede excluir resultados, qué métodos se publican y cómo se gestionan vulnerabilidades. Sin esas condiciones, el nombre describe una relación comercial, no una comprobación.

El criterio final es trazabilidad: propuesta, versión, decisión, alternativa y evidencia posterior. Esa secuencia permite comprobar si una crítica produjo un diseño mejor o solo desplazó la decisión, sin atribuir intenciones que el expediente no documenta.

Cuando aparezca otra propuesta, la tabla permite detectar qué cambió de verdad y qué solo recibió un nombre nuevo. Esa continuidad es más útil que volver a narrar desde cero cada ciclo político.