California promulga la primera ley estatal de seguridad para IA frontera

California ha aprobado la primera ley estatal de Estados Unidos dedicada específicamente a la seguridad de los modelos de inteligencia artificial más avanzados. El gobernador Gavin Newsom ha firmado hoy la SB 53, que exige transparencia sobre las medidas de seguridad, impone la notificación de incidentes críticos y protege a los trabajadores que alerten de riesgos graves.

La norma llega exactamente un año después de que Newsom vetase la SB 1047, un proyecto más intervencionista que dividió a la industria tecnológica. La nueva ley evita controles previos al lanzamiento y concentra las obligaciones en la transparencia y la rendición de cuentas.

Qué modelos quedan dentro de la SB 53

La Transparency in Frontier Artificial Intelligence Act se aplica a los llamados modelos frontera, aquellos cuyo entrenamiento supere las 10^26 operaciones informáticas. Esta medida, conocida como FLOPs, expresa la cantidad aproximada de cálculo utilizada para entrenar un sistema; no equivale al número de parámetros ni determina por sí sola su capacidad.

El umbral deja fuera a la mayoría de modelos pequeños y medianos, incluidas muchas herramientas empresariales y sistemas de código abierto. Está pensado para las costosas sesiones de entrenamiento que solo pueden asumir un reducido grupo de compañías.

Las principales obligaciones de publicación recaen sobre los grandes desarrolladores de modelos frontera, definidos como empresas que, junto con sus afiliadas, superen los 500 millones de dólares de ingresos brutos anuales. Por tanto, la SB 53 no regula de la misma manera a una startup y a compañías como OpenAI, Google, Anthropic o Meta.

Protocolos públicos e informes sobre cada modelo

Los grandes desarrolladores tendrán que publicar en sus páginas web un marco de seguridad para IA frontera. El documento deberá explicar cómo incorporan estándares nacionales e internacionales y prácticas aceptadas por el sector para identificar, evaluar y reducir riesgos.

También deberán ofrecer información sobre las evaluaciones realizadas a sus modelos y las medidas adoptadas frente a capacidades que puedan causar daños graves. La ley presta atención a riesgos como el uso de IA para facilitar ataques informáticos o amenazas químicas, biológicas, radiológicas y nucleares, además de la pérdida de control sobre un sistema avanzado.

La norma no obliga a obtener una licencia antes de lanzar un modelo ni exige demostrar ante el Estado que el producto es seguro. Su lógica es distinta: las compañías deben comprometerse públicamente con un protocolo y dejar información que permita comprobar después si actuaron conforme a él.

Los incidentes críticos deberán notificarse

Los desarrolladores de modelos frontera tendrán que comunicar los incidentes críticos a la Oficina de Servicios de Emergencia de California. El plazo general será de 15 días desde su descubrimiento, pero se reduce a 24 horas cuando exista un riesgo inminente de muerte o lesión física grave.

La categoría incluye sucesos como el robo de los pesos de un modelo —los archivos que contienen lo aprendido durante el entrenamiento— cuando aumente de forma material el riesgo de daños críticos. También abarca determinados comportamientos engañosos utilizados por un modelo para eludir los controles de su desarrollador.

La Oficina de Servicios de Emergencia habilitará además un mecanismo para que empresas y ciudadanos comuniquen posibles incidentes. La Fiscalía General de California podrá exigir sanciones civiles de hasta un millón de dólares por infracción en caso de incumplimiento.

Protección para quienes alerten desde dentro

La SB 53 prohíbe las represalias contra empleados que revelen riesgos importantes para la salud o la seguridad. Las compañías afectadas deberán disponer de canales internos para recibir estas alertas.

Esta parte responde a un problema concreto de la industria: buena parte de la información sobre las capacidades, fallos y pruebas de seguridad de los modelos permanece dentro de los laboratorios. Los denunciantes pueden ser una de las pocas vías para conocer un peligro que una empresa no haya comunicado adecuadamente.

La protección no convierte cualquier desacuerdo técnico en una denuncia amparada. Está orientada a comunicaciones de buena fe sobre riesgos significativos o incumplimientos de la propia ley.

Una versión más limitada que la SB 1047 vetada en 2024

La SB 1047, también impulsada por el senador Scott Wiener, habría impuesto a los desarrolladores un deber más amplio de prevenir daños catastróficos. Newsom la vetó el 29 de septiembre de 2024 al considerar que su enfoque podía imponer cargas excesivas y utilizar el coste o tamaño del entrenamiento como sustituto imperfecto del riesgo real.

La SB 53 conserva el umbral de capacidad informática, pero rebaja el grado de intervención. No crea un régimen de autorización previa ni hace responsable automáticamente al desarrollador por cualquier uso dañino. En su lugar, obliga a documentar las políticas, informar de incidentes y proteger a quienes descubran problemas.

Ese diseño explica que Anthropic respaldase públicamente la versión final, mientras otras grandes tecnológicas habían reclamado evitar un mosaico de normas estatales y apostar por una regulación federal.

California vuelve a fijar reglas para todo el sector

El alcance formal de la ley termina en California, pero su efecto puede ser mucho mayor. El estado alberga 32 de las 50 principales empresas de IA del mundo, según los datos citados por el Gobierno californiano. En 2024 concentró el 15,7% de todas las ofertas de empleo relacionadas con IA en Estados Unidos, de acuerdo con el AI Index 2025 de Stanford.

Cuando una compañía desarrolla sus modelos desde California o vende allí sus servicios, mantener dos sistemas de cumplimiento suele resultar más caro que extender el estándar californiano al resto del país. Es el mismo efecto regulatorio que el estado ya ha ejercido en privacidad, emisiones de vehículos y protección del consumidor.

La ley ordena además crear CalCompute, un consorcio dentro de la Agencia de Operaciones Gubernamentales que diseñará el marco para un futuro clúster público de computación. El objetivo es facilitar recursos de cálculo para investigación en IA segura, sostenible y de interés público; la SB 53 crea el mecanismo de planificación, no el superordenador.

El Departamento de Tecnología de California deberá revisar cada año la evolución técnica y recomendar ajustes. Esa revisión será decisiva: un umbral fijo de 10^26 operaciones puede quedarse obsoleto si mejoran los métodos de entrenamiento o aparecen sistemas muy capaces que necesiten menos cálculo.

La primera prueba práctica será comprobar cuánto detalle incluyen las empresas en sus marcos públicos. La SB 53 puede revelar diferencias reales entre sus políticas de seguridad, pero también producir documentos vagos si la Fiscalía no exige que las divulgaciones sean verificables. La aplicación de las sanciones y la calidad de los informes determinarán si la ley crea supervisión efectiva o solo una nueva capa de cumplimiento corporativo.