La Asamblea de California acerca la ley SB 1047 al gobernador

La Asamblea de California ha aprobado la SB 1047, el proyecto que obligaría a los desarrolladores de los modelos de inteligencia artificial más potentes a establecer y publicar medidas contra usos catastróficos. La votación, de 48 votos a favor y 9 en contra, sitúa al estado a un paso de crear la primera ley estadounidense específica para la seguridad de los llamados modelos de frontera.

La norma aún no ha terminado su recorrido legislativo. El Senado de California, que aprobó una versión anterior en mayo, debe ahora aceptar las modificaciones introducidas por la Asamblea. Si lo hace antes del cierre de la sesión legislativa, previsto para el 31 de agosto, el texto pasará al gobernador Gavin Newsom, que podrá firmarlo o vetarlo.

Qué modelos quedarían afectados

La SB 1047 no se dirige a cualquier empresa que incorpore IA en un producto. Se centra en sistemas entrenados con más de 10^26 operaciones de cálculo o cuyo coste de computación de entrenamiento supere los 100 millones de dólares, en dólares constantes de 2023. Son umbrales propios de modelos de frontera.

En la práctica, la medida apunta a los grandes laboratorios capaces de crear modelos de propósito general comparables a los que sostienen los principales chatbots y asistentes generativos. También contempla determinados modelos derivados de esos sistemas cuando cumplen las condiciones y umbrales previstos por el proyecto.

La ley intenta responder a un problema concreto: un modelo muy avanzado puede ser útil para redactar código, investigar fármacos o automatizar tareas complejas, pero sus capacidades también pueden facilitar ataques informáticos graves o la creación de armas químicas, biológicas, radiológicas o nucleares. El texto denomina a esos escenarios daño catastrófico: la muerte o lesión grave de más de 50 personas, o daños materiales superiores a 500 millones de dólares.

Pruebas, protocolos y capacidad para detener un modelo

Los desarrolladores cubiertos por la ley tendrían que publicar un marco de seguridad antes de desplegar sus modelos. Ese documento debe explicar qué pruebas realizan para detectar capacidades peligrosas, qué salvaguardas aplican y cómo evaluarán los riesgos antes de lanzar una versión nueva.

También deberán conservar la capacidad de desactivar un modelo si detectan un peligro relevante. Esta exigencia, conocida informalmente como kill switch, no significa que una empresa pueda borrar de internet cualquier copia de un sistema una vez distribuido. Su alcance está en los sistemas que el desarrollador controla directamente, como los modelos ofrecidos a través de servidores propios.

El proyecto exige además informar al fiscal general de California de incidentes de seguridad y prevé sanciones para las compañías que incumplan sus obligaciones. Las últimas enmiendas eliminaron una de las partes más discutidas de la propuesta inicial: la posibilidad de que particulares demandasen directamente a las empresas.

Una división en la industria tecnológica

El debate ha separado a empresas y expertos que suelen compartir una misma preocupación por la regulación excesiva. Anthropic ha respaldado la versión modificada del proyecto, al considerar que las enmiendas corrigen varias de sus objeciones iniciales. Elon Musk también se ha mostrado favorable a que California regule la seguridad de la IA avanzada.

En el bloque contrario están OpenAI, Meta, Google y numerosas startups y fondos de capital riesgo. Su crítica principal es que California estaría imponiendo requisitos costosos antes de que exista una norma federal común. Temen que la responsabilidad legal y la obligación de prever usos extremos frenen a empresas pequeñas o hagan que los desarrolladores eviten lanzar sus modelos en el estado.

Esa objeción tiene un límite importante: por los umbrales de cálculo y coste, la ley no afectaría hoy a la mayoría de compañías que usan modelos de terceros ni a los proyectos abiertos modestos. El conflicto real está en quién debe asumir la responsabilidad cuando un laboratorio crea sistemas con capacidades que pueden difundirse rápidamente por toda la economía.

California regula donde Washington no llega

California no puede convertir la SB 1047 en una ley nacional, pero su influencia tecnológica hace que la decisión tenga peso más allá de sus fronteras. El estado alberga a buena parte de los grandes laboratorios de IA, inversores y plataformas sobre las que se construye el sector.

La discusión también anticipa una cuestión que Washington todavía no ha resuelto: si basta con exigir transparencia después de que ocurra un incidente o si los creadores de los modelos más capaces deben demostrar, antes de publicarlos, que han evaluado los riesgos más graves. La respuesta del Senado y, después, de Newsom determinará si California abre ese camino regulatorio en Estados Unidos.