La Casa Blanca logra compromisos voluntarios de siete gigantes de IA
Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI se han comprometido este viernes ante la Administración Biden a someter sus modelos a pruebas de seguridad y a marcar el contenido generado por IA. No es una ley: es una promesa sin sanción si se incumple.
La Casa Blanca logra compromisos voluntarios de siete gigantes de IA
Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI se han comprometido este viernes ante la Administración Biden a someter sus modelos a pruebas de seguridad y a marcar el contenido generado por IA. No es una ley: es una promesa sin sanción si se incumple.
Siete de las empresas más influyentes en inteligencia artificial han asumido hoy ante la Casa Blanca una serie de compromisos voluntarios sobre seguridad, protección y transparencia en el desarrollo de sus sistemas. Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI firmaron el acuerdo en un acto en el que participó el propio presidente Joe Biden, en la que es la iniciativa más visible de la Administración estadounidense para poner límites a una tecnología que avanza más rápido que cualquier ley que pueda regularla.
El detalle importa: se trata de compromisos voluntarios, no de obligaciones legales. Ninguna agencia federal podrá sancionar a estas empresas si los incumplen. Es, en la práctica, una declaración de intenciones con el sello de la Casa Blanca detrás.
Qué han prometido exactamente
Los compromisos, según ha detallado la propia Administración, se agrupan en tres bloques.
El primero tiene que ver con la seguridad de los modelos antes de su lanzamiento. Las siete compañías se comprometen a someter sus sistemas a pruebas internas y externas —lo que en el sector se conoce como "red teaming", ataques simulados para encontrar fallos antes de que lo hagan actores maliciosos— y a compartir información sobre la gestión de esos riesgos con el resto de la industria, con gobiernos, con la sociedad civil y con el mundo académico.
El segundo bloque afecta a la protección de los sistemas: invertir en ciberseguridad y en medidas contra amenazas internas para blindar los pesos de los modelos —los parámetros entrenados que constituyen, en la práctica, el activo más valioso de una empresa de IA— antes de que se publiquen, y facilitar que terceros puedan detectar y reportar vulnerabilidades de forma responsable.
El tercero busca generar confianza pública. Aquí entra el compromiso más comentado: desarrollar mecanismos técnicos, como sistemas de marca de agua, para que los usuarios puedan saber cuándo un contenido —texto, imagen, audio o vídeo— ha sido generado por inteligencia artificial. Se suma el compromiso de informar públicamente sobre las capacidades y limitaciones de sus modelos, sus usos apropiados e inapropiados, y de priorizar la investigación sobre riesgos sociales como el sesgo, la discriminación y la protección de la privacidad.
Por qué llega ahora
El anuncio no surge de la nada. Desde la irrupción de ChatGPT a finales de 2022, Washington ha ido escalando su atención sobre la IA sin que el Congreso haya aprobado ninguna ley específica. En mayo, Biden ya se había reunido en la Casa Blanca con los máximos responsables de OpenAI, Google, Microsoft y Anthropic para hablar de riesgos. Ese mismo mes, Sam Altman compareció ante el Senado y pidió, él mismo, que se regulara su industria. En mayo, el G7 puso en marcha en su cumbre de Hiroshima un proceso para coordinar principios comunes sobre IA generativa entre las principales economías del mundo.
Mientras tanto, en Bruselas la Ley de IA europea avanzaba por la vía legislativa clásica, con capítulos vinculantes y sanciones. Estados Unidos, sin una mayoría capaz de sacar adelante una ley equivalente, ha optado por la vía más rápida que tiene a su alcance: la presión política directa sobre un puñado de empresas que, entre ellas, controlan la práctica totalidad de los modelos de IA más potentes del mundo.
Los límites de la promesa
La ausencia de mecanismos de cumplimiento es la principal crítica que ha recibido el anuncio desde el primer momento. No hay plazos verificables, no hay auditorías independientes obligatorias y no hay consecuencias legales si una de las siete empresas decide, dentro de un año, no aplicar lo prometido. El propio marco depende de la buena fe corporativa y de la presión reputacional que supone haber firmado un compromiso público junto al presidente de Estados Unidos.
La Casa Blanca ha planteado estos compromisos como un primer paso mientras trabaja en medidas adicionales, entre ellas una posible orden ejecutiva sobre inteligencia artificial y el impulso de legislación bipartidista en el Congreso. Ninguna de esas dos vías tiene, a día de hoy, una fecha ni un texto cerrado.
Qué cambia para el usuario
Para quien usa ChatGPT, Bard, los productos de Meta o los servicios de Amazon, el efecto inmediato será limitado. No habrá una etiqueta obligatoria en el contenido generado por IA la semana que viene, ni un mecanismo público para reportar fallos de seguridad de estos modelos. Lo que sí cambia es el marco de referencia: por primera vez, las principales compañías del sector han puesto por escrito, ante la Administración de su país, qué entienden ellas mismas por desarrollo responsable. Ese texto servirá, previsiblemente, como vara de medir cuando alguna de ellas se aparte de lo prometido.
