La Asamblea de California acerca la ley SB 1047 al gobernador

El 28 de agosto de 2024, la Asamblea de California aprobó la SB 1047 y la devolvió al Senado antes de su envío al gobernador. El expediente legislativo oficial conserva texto, versiones, votos e historia: es la fuente que permite distinguir qué obligación existía en cada fase y qué aún no era ley.

La norma aún no ha terminado su recorrido legislativo. El Senado de California, que aprobó una versión anterior en mayo, debe ahora aceptar las modificaciones introducidas por la Asamblea. Si lo hace antes del cierre de la sesión legislativa, previsto para el 31 de agosto, el texto pasará al gobernador Gavin Newsom, que podrá firmarlo o vetarlo.

Qué modelos quedarían afectados

La SB 1047 no se dirige a cualquier empresa que incorpore IA en un producto. Se centra en sistemas entrenados con más de 10^26 operaciones de cálculo o cuyo coste de computación de entrenamiento supere los 100 millones de dólares, en dólares constantes de 2023. Son umbrales propios de modelos de frontera. Fuente

En la práctica, la medida apunta a los grandes laboratorios capaces de crear modelos de propósito general comparables a los que sostienen los principales chatbots y asistentes generativos. También contempla determinados modelos derivados de esos sistemas cuando cumplen las condiciones y umbrales previstos por el proyecto.

La ley intenta responder a un problema concreto: un modelo muy avanzado puede ser útil para redactar código, investigar fármacos o automatizar tareas complejas, pero sus capacidades también pueden facilitar ataques informáticos graves o la creación de armas químicas, biológicas, radiológicas o nucleares. El texto denomina a esos escenarios daño catastrófico: la muerte o lesión grave de más de 50 personas, o daños materiales superiores a 500 millones de dólares. Fuente

Pruebas, protocolos y capacidad para detener un modelo

Los desarrolladores cubiertos por la ley tendrían que publicar un marco de seguridad antes de desplegar sus modelos. Ese documento debe explicar qué pruebas realizan para detectar capacidades peligrosas, qué salvaguardas aplican y cómo evaluarán los riesgos antes de lanzar una versión nueva.

También deberán conservar la capacidad de desactivar un modelo si detectan un peligro relevante. Esta exigencia, conocida informalmente como kill switch, no significa que una empresa pueda borrar de internet cualquier copia de un sistema una vez distribuido. Su alcance está en los sistemas que el desarrollador controla directamente, como los modelos ofrecidos a través de servidores propios.

El proyecto exige además informar al fiscal general de California de incidentes de seguridad y prevé sanciones para las compañías que incumplan sus obligaciones. Las últimas enmiendas eliminaron una de las partes más discutidas de la propuesta inicial: la posibilidad de que particulares demandasen directamente a las empresas.

Una división en la industria tecnológica

El debate ha separado a empresas y expertos que suelen compartir una misma preocupación por la regulación excesiva. Anthropic ha respaldado la versión modificada del proyecto, al considerar que las enmiendas corrigen varias de sus objeciones iniciales. Elon Musk también se ha mostrado favorable a que California regule la seguridad de la IA avanzada.

En el bloque contrario están OpenAI, Meta, Google y numerosas startups y fondos de capital riesgo. Su crítica principal es que California estaría imponiendo requisitos costosos antes de que exista una norma federal común. Temen que la responsabilidad legal y la obligación de prever usos extremos frenen a empresas pequeñas o hagan que los desarrolladores eviten lanzar sus modelos en el estado.

Esa objeción tiene un límite importante: por los umbrales de cálculo y coste, la ley no afectaría hoy a la mayoría de compañías que usan modelos de terceros ni a los proyectos abiertos modestos. El conflicto real está en quién debe asumir la responsabilidad cuando un laboratorio crea sistemas con capacidades que pueden difundirse rápidamente por toda la economía.

California regula donde Washington no llega

California no puede convertir la SB 1047 en una ley nacional, pero su influencia tecnológica hace que la decisión tenga peso más allá de sus fronteras. El estado alberga a buena parte de los grandes laboratorios de IA, inversores y plataformas sobre las que se construye el sector.

La discusión también anticipa una cuestión que Washington todavía no ha resuelto: si basta con exigir transparencia después de que ocurra un incidente o si los creadores de los modelos más capaces deben demostrar, antes de publicarlos, que han evaluado los riesgos más graves. La respuesta del Senado y, después, de Newsom determinará si California abre ese camino regulatorio en Estados Unidos.

Una ley se lee por versión, verbo y destinatario

El número de proyecto identifica un expediente, no un texto inmutable. Cada enmienda puede cambiar umbrales, definiciones, responsabilidad o autoridad. Antes de resumir una obligación hay que guardar la fecha y versión, localizar el verbo —deberá, podrá, informará— y nombrar a la entidad obligada. Una votación sobre una versión anterior no aprueba automáticamente la posterior.

La tabla útil tiene columnas para disparador, deber, plazo, supervisor, sanción y evidencia de cumplimiento. Así se distingue un protocolo que la empresa debe conservar de un informe que debe publicar o una potestad que recibe una agencia. “Regula la IA” es demasiado amplio para que un lector sepa qué cambia.

El umbral selecciona sujetos, no mide todo el riesgo

Coste y cómputo pueden ser datos administrables para identificar desarrolladores con recursos de frontera, pero no equivalen a peligrosidad. Un modelo pequeño integrado en infraestructura crítica puede causar un daño distinto; uno grande usado en investigación cerrada puede tener otra exposición. El perímetro y la evaluación de uso resuelven problemas complementarios.

También hay que separar capacidad del modelo y acciones de quien lo adapta. Si una obligación sigue al modelo después de una modificación, el texto debe definir cuánto cambio cuenta y quién conserva información. Sin esa trazabilidad, una cadena de versiones diluye responsabilidades.

La capacidad transferible es convertir cualquier proyecto tecnológico en una matriz de versión, sujeto, disparador, deber y control. Con ella puedes comparar argumentos a favor y en contra sobre el texto real, no sobre una caricatura, y actualizar la pieza cuando cambie el expediente.

El expediente muestra qué ocurrió y cuándo

La página legislativa reúne versiones, votaciones y acciones, y permite reconstruir el estado en una fecha concreta. No debe sustituirse por el texto que aparece hoy cuando la pieza se sitúa antes: una enmienda posterior puede cambiar la afirmación. Guardar el documento y su fecha protege la verdad de época.

Los argumentos públicos se clasifican por el mecanismo que cuestionan. Algunos discuten el umbral, otros la responsabilidad, el coste de cumplimiento o la capacidad técnica de evaluar. Decir solo “la industria se opuso” pierde la razón comprobable y mezcla posiciones incompatibles.

De la obligación al método de auditoría

Para cada deber, pregunta qué evidencia demostraría cumplimiento: informe firmado, registro de pruebas, protocolo de incidentes o decisión del supervisor. Si el texto no define calidad mínima, conservar un documento puede cumplir formalmente sin reducir riesgo. Ese hueco debe describirse, no rellenarse con intención atribuida.

Las definiciones son parte del mecanismo. “Modelo cubierto”, “incidente” o “riesgo crítico” determinan cuándo se activa una regla. Un resumen serio enlaza la definición con la obligación y presenta incertidumbres interpretativas como tales, sin convertirlas en sentencia jurídica.

Al comparar jurisdicciones, conserva la misma matriz. Nombres distintos pueden esconder deberes equivalentes, y una palabra compartida puede cubrir perímetros opuestos. El método evita declarar más dura una norma solo porque su lenguaje suena más severo.

La lista de comprobación no sustituye asesoramiento jurídico. Sirve para localizar la frase exacta, formular una pregunta verificable y saber cuándo una conclusión requiere a un especialista o una decisión posterior de los tribunales.