Google borra su promesa de no usar la IA en armas ni vigilancia

Google ha eliminado esta semana de su web el compromiso de no desarrollar inteligencia artificial para armas o vigilancia. El cambio, detectado por primera vez por Bloomberg, borra de la página pública de principios de IA de la compañía un apartado titulado "aplicaciones que no perseguiremos", que todavía figuraba la semana pasada.

No es un retoque menor de redacción. Esa sección era el límite explícito que Google se había fijado a sí misma sobre los usos que consideraba inaceptables para su tecnología. Al retirarla, la empresa deja de comprometerse por escrito a mantenerse al margen de aplicaciones militares o de control masivo.

De dónde venía ese compromiso

El veto tenía origen en un episodio de tensión entre Silicon Valley y el Pentágono en 2018, cuando la participación de Google en un contrato de defensa generó protestas internas entre sus empleados. La compañía respondió publicando un conjunto de principios de IA que incluían, desde entonces, una sección pública en la que descartaba desarrollar tecnología para armas o sistemas de vigilancia.

Aquel documento se convirtió en una referencia dentro del sector: era la prueba de que una de las mayores tecnológicas del mundo estaba dispuesta a renunciar a determinados negocios por razones éticas. Su desaparición cierra ese capítulo.

Qué dice ahora Google

Preguntada por TechCrunch, la compañía remitió a una nueva entrada de blog sobre "IA responsable". En ella sostiene que "las empresas, los gobiernos y las organizaciones que comparten estos valores deberían trabajar juntos para crear una IA que proteja a las personas, promueva el crecimiento global y apoye la seguridad nacional".

Los principios actualizados afirman que Google trabajará para "mitigar resultados no deseados o dañinos y evitar sesgos injustos", además de alinearse con "principios ampliamente aceptados del derecho internacional y los derechos humanos".

El contraste es evidente. Donde antes había una lista de líneas rojas, ahora hay una apelación a la colaboración con los gobiernos y una mención expresa a la "seguridad nacional". El lenguaje pasa de la prohibición al principio general: se cambia "esto no lo haremos" por "lo haremos con cuidado".

Un giro que no es solo de Google

El movimiento encaja en una tendencia más amplia. En los últimos años, buena parte de la industria tecnológica estadounidense ha estrechado su relación con el sector de la defensa, después de una etapa en la que los contratos militares eran políticamente incómodos de puertas adentro. La retórica de la "seguridad nacional" se ha vuelto habitual en los mensajes corporativos de las grandes empresas de IA.

Google no es ajena a esa fricción. Sus contratos para proporcionar servicios en la nube a los ejércitos de Estados Unidos e Israel han generado protestas internas entre sus empleados en los últimos años. La compañía ha mantenido siempre que su IA no se usa para dañar a personas.

Esa defensa, sin embargo, choca con lo que reconocen las propias autoridades militares. El responsable de IA del Pentágono declaró recientemente a TechCrunch que los modelos de IA de algunas empresas están acelerando la cadena de eliminación (kill chain) del ejército estadounidense. Es la distancia entre el mensaje corporativo —"nuestra IA no hace daño"— y el uso real que le dan sus clientes.

Por qué importa

La relevancia del cambio no está en que Google vaya a fabricar armas mañana. Está en lo que significa retirar un compromiso público voluntario.

Estos principios eran autoimpuestos: nadie obligaba a Google a tenerlos y nadie le impide ahora borrarlos. Esa es precisamente la debilidad de la autorregulación en IA. Cuando las reglas dependen de la voluntad de la empresa, pueden reescribirse cuando el contexto de negocio cambia. Lo que la semana pasada era una línea roja, esta semana ya no lo es, y basta con actualizar una página web.

Para quien defiende que la industria puede gobernarse a sí misma sin normas externas, el episodio es un argumento en contra. Los compromisos que se pueden eliminar sin coste ni supervisión ofrecen poca garantía. La nueva redacción de Google apela a los "derechos humanos" y al "derecho internacional", pero sustituye una prohibición concreta y verificable por una promesa de buenas intenciones mucho más difícil de contrastar.

Qué vigilar a partir de ahora

El siguiente indicador no será otra declaración de principios, sino los contratos. Sin la sección de "aplicaciones que no perseguiremos", desaparece el criterio público con el que empleados, clientes y observadores podían medir si Google cruzaba sus propios límites.

La presión interna, que ya se ha manifestado en protestas por los acuerdos existentes, seguirá siendo uno de los pocos contrapesos reales dentro de la compañía. Y la pregunta de fondo —quién decide, y con qué transparencia, hasta dónde puede llegar la IA de una tecnológica en el terreno militar— queda ahora sin la respuesta que Google se había dado a sí misma hace años.