La Casa Blanca logra compromisos voluntarios de siete gigantes de IA

La Casa Blanca logra compromisos voluntarios de siete gigantes de IA

Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI se comprometieron el 21 de julio de 2023 ante la Administración Biden a someter sus modelos a pruebas de seguridad y a marcar el contenido generado por IA. No es una ley: es una promesa sin sanción si se incumple.

Siete de las empresas más influyentes en inteligencia artificial han asumido hoy ante la Casa Blanca una serie de compromisos voluntarios sobre seguridad, protección y transparencia en el desarrollo de sus sistemas. Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI firmaron el acuerdo en un acto en el que participó el propio presidente Joe Biden, en la que es la iniciativa más visible de la Administración estadounidense para poner límites a una tecnología que avanza más rápido que cualquier ley que pueda regularla.

El detalle importa: se trata de compromisos voluntarios, no de obligaciones legales. Ninguna agencia federal podrá sancionar a estas empresas si los incumplen. Es, en la práctica, una declaración de intenciones con el sello de la Casa Blanca detrás.

Qué han prometido exactamente

Los compromisos, según ha detallado la propia Administración, se agrupan en tres bloques.

El primero tiene que ver con la seguridad de los modelos antes de su lanzamiento. Las siete compañías se comprometen a someter sus sistemas a pruebas internas y externas —lo que en el sector se conoce como "red teaming", ataques simulados para encontrar fallos antes de que lo hagan actores maliciosos— y a compartir información sobre la gestión de esos riesgos con el resto de la industria, con gobiernos, con la sociedad civil y con el mundo académico.

El segundo bloque afecta a la protección de los sistemas: invertir en ciberseguridad y en medidas contra amenazas internas para blindar los pesos de los modelos —los parámetros entrenados que constituyen, en la práctica, el activo más valioso de una empresa de IA— antes de que se publiquen, y facilitar que terceros puedan detectar y reportar vulnerabilidades de forma responsable.

El tercero busca generar confianza pública. Aquí entra el compromiso más comentado: desarrollar mecanismos técnicos, como sistemas de marca de agua, para que los usuarios puedan saber cuándo un contenido —texto, imagen, audio o vídeo— ha sido generado por inteligencia artificial. Se suma el compromiso de informar públicamente sobre las capacidades y limitaciones de sus modelos, sus usos apropiados e inapropiados, y de priorizar la investigación sobre riesgos sociales como el sesgo, la discriminación y la protección de la privacidad.

Por qué llega ahora

El anuncio no surge de la nada. Desde la irrupción de ChatGPT a finales de 2022, Washington ha ido escalando su atención sobre la IA sin que el Congreso haya aprobado ninguna ley específica. En mayo, Biden ya se había reunido en la Casa Blanca con los máximos responsables de OpenAI, Google, Microsoft y Anthropic para hablar de riesgos. Ese mismo mes, Sam Altman compareció ante el Senado y pidió, él mismo, que se regulara su industria. En mayo, el G7 puso en marcha en su cumbre de Hiroshima un proceso para coordinar principios comunes sobre IA generativa entre las principales economías del mundo.

Mientras tanto, en Bruselas la Ley de IA europea avanzaba por la vía legislativa clásica, con capítulos vinculantes y sanciones. Estados Unidos, sin una mayoría capaz de sacar adelante una ley equivalente, ha optado por la vía más rápida que tiene a su alcance: la presión política directa sobre un puñado de empresas que, entre ellas, controlan la práctica totalidad de los modelos de IA más potentes del mundo.

Los límites de la promesa

La ausencia de mecanismos de cumplimiento es la principal crítica que ha recibido el anuncio desde el primer momento. No hay plazos verificables, no hay auditorías independientes obligatorias y no hay consecuencias legales si una de las siete empresas decide, dentro de un año, no aplicar lo prometido. El propio marco depende de la buena fe corporativa y de la presión reputacional que supone haber firmado un compromiso público junto al presidente de Estados Unidos.

La Casa Blanca ha planteado estos compromisos como un primer paso mientras trabaja en medidas adicionales, entre ellas una posible orden ejecutiva sobre inteligencia artificial y el impulso de legislación bipartidista en el Congreso. Ninguna de esas dos vías tiene, a día de hoy, una fecha ni un texto cerrado.

Qué cambia para el usuario

Para quien usa ChatGPT, Bard, los productos de Meta o los servicios de Amazon, el efecto inmediato será limitado. No habrá una etiqueta obligatoria en el contenido generado por IA la semana que viene, ni un mecanismo público para reportar fallos de seguridad de estos modelos. Lo que sí cambia es el marco de referencia: por primera vez, las principales compañías del sector han puesto por escrito, ante la Administración de su país, qué entienden ellas mismas por desarrollo responsable. Ese texto servirá, previsiblemente, como vara de medir cuando alguna de ellas se aparte de lo prometido.

Cómo distinguir un compromiso de una obligación

Un compromiso voluntario puede importar: fija públicamente una conducta y facilita exigir explicaciones. Pero carece de elementos propios de una norma vinculante. Para medir su fuerza hay que buscar alcance, plazo, indicador, auditor independiente, publicación de resultados y consecuencia por incumplimiento. Si faltan, la presión principal es reputacional.

El texto consolidado de los compromisos usa fórmulas como “se comprometen a” y reconoce que se aplican hasta que exista regulación que cubra sustancialmente los mismos asuntos. También deja claro que las obligaciones legales vigentes siguen mandando. No es correcto llamarlo ley, pero tampoco reducirlo a una frase ceremonial: ofrece una lista contra la que comparar actos posteriores.

La lista puede convertirse en un cuadro de seguimiento. Para pruebas externas se pide quién evalúa, qué sistema, antes de qué lanzamiento y qué resumen se publica. Para ciberseguridad se buscan políticas de divulgación de vulnerabilidades y protección de pesos. Para procedencia se comprueba qué tipos de contenido reciben una señal, si sobrevive a la edición y qué entiende el usuario.

La palabra “seguridad” necesita una unidad de medida

Compartir información sobre riesgos no dice cuánta, con quién ni con qué rapidez. Una marca de agua puede existir y fallar tras compresión. Un red team puede descubrir problemas y dejar sin publicar su cobertura. Cada promesa necesita una evidencia observable y un denominador: modelos revisados sobre modelos lanzados, tipos de contenido marcados sobre los generados o vulnerabilidades cerradas sobre las recibidas.

Las siete firmas tampoco representaban a todo el ecosistema. Los modelos abiertos, empresas pequeñas, aplicaciones que integran APIs y proveedores extranjeros plantean otras cadenas de responsabilidad. Un acuerdo con laboratorios grandes puede fijar expectativas, pero no sustituye reglas generales ni supervisión pública.

La capacidad transferible es convertir una promesa corporativa en una matriz verificable: actor, acción, plazo, métrica, prueba y consecuencia. Cuando una empresa anuncia “IA responsable”, busca esos seis campos. Si no pueden completarse, sabes exactamente qué falta en lugar de aceptar o rechazar la declaración por intuición.

El seguimiento debe conservar versiones. Una empresa puede cambiar su política, ampliar una prueba o adoptar un estándar después del acuerdo. Guardar la fecha y el documento permite reconocer el progreso sin fingir que ya existía al firmar. También evita que una página actualizada borre la línea de base contra la que se prometió actuar.

El cuadro debe actualizarse con evidencia, no con anuncios repetidos. Una política publicada, un informe de prueba o una auditoría cuentan; una nueva promesa sobre la promesa no. Esa diferencia convierte la memoria institucional en una herramienta de rendición de cuentas.