Microsoft propone su receta contra los deepfakes: watermarks, firmas digitales y metadatos combinados

Microsoft Research publicó en enero de 2026 un informe técnico sobre integridad y autenticación de medios. El documento no promete decidir qué imagen dice la verdad: estudia cómo combinar procedencia criptográfica, marcas de agua imperceptibles y huellas de contenido para conservar señales verificables sobre el origen y las transformaciones de un archivo.

La distinción importa el 18 de julio de 2026, fecha de esta pieza. Una señal de procedencia puede demostrar que una entidad firmó un manifiesto o que el archivo cambió; no demuestra que la escena representada sucediera ni que el firmante sea fiable. El informe analiza tres tecnologías representativas y sus amenazas.

La analogía del Rembrandt digital

Eric Horvitz, director científico de Microsoft, explica el enfoque con una analogía artística. Imagina que tienes un Rembrandt auténtico y necesitas documentar su autenticidad. Crearías un manifiesto detallado de su procedencia, aplicarías una marca de agua invisible al ojo humano pero legible por máquinas, y generarías una firma matemática basada en las pinceladas, como una huella dactilar única.

Este mismo principio se aplica al contenido digital. Los investigadores de Microsoft modelaron cómo diferentes combinaciones de metadatos de procedencia, watermarks y firmas digitales resistirían diversos escenarios de falla: desde la eliminación de metadatos hasta alteraciones deliberadas del contenido.

La clave está en la redundancia inteligente. Una sola técnica puede fallar, pero la combinación correcta crea un sistema robusto de verificación.

Los límites de la detección automática

Hay que ser claros sobre qué pueden y no pueden hacer estas herramientas. La especificación de C2PA ordena no convertir la procedencia en un juicio sobre si el contenido es bueno, malo, verdadero o falso. Su función es validar la asociación entre el archivo, las afirmaciones registradas y la firma; el juicio factual sigue necesitando contexto y fuentes.

Las herramientas solo detectan manipulación, no veracidad. Pueden decirte si una imagen fue alterada con IA, pero no si el evento que muestra realmente ocurrió. Es la diferencia entre autenticidad técnica y precisión factual.

El equipo de Microsoft defiende la redundancia porque cada señal falla de una forma distinta. Los metadatos pueden separarse del archivo; una marca puede degradarse al recomprimir; una huella aproximada puede producir coincidencias ambiguas. Una combinación puede ayudar a recuperar contexto, pero solo si las plataformas conservan, validan y muestran esas señales.

El problema de los incentivos económicos

Microsoft ocupa una posición única en el ecosistema de contenido IA: opera Copilot (generación de imágenes y texto), Azure (acceso a OpenAI y otros modelos), LinkedIn, y tiene participación significativa en OpenAI. Sin embargo, cuando se le preguntó sobre implementar sus propias recomendaciones, Horvitz fue evasivo: "Los grupos de producto están tomando medidas basadas en los hallazgos del reporte".

La adopción depende también de incentivos. Firmar contenido, conservar manifiestos durante las transformaciones y diseñar una interfaz comprensible exige coordinación entre cámaras, editores, generadores, redes y verificadores. Si una plataforma elimina los datos o muestra una etiqueta binaria sin explicar su alcance, rompe una cadena que ningún componente aislado puede reparar.

Google comenzó a agregar watermarks a su contenido generado por IA en 2023. Algunas plataformas usan C2PA, un estándar de procedencia que Microsoft ayudó a lanzar en 2021. Pero la adopción sigue siendo irregular y voluntaria.

Ataques sociotécnicos: el nuevo campo de batalla

Los investigadores identifican un riesgo emergente: los ataques sociotécnicos. Imagina que alguien toma una imagen real de un evento político controversial y usa IA para cambiar solo una fracción insignificante de píxeles. Cuando se distribuye online, podría ser clasificada erróneamente como "manipulada por IA".

La combinación de herramientas de procedencia y watermarks permitiría a las plataformas aclarar que el contenido fue solo parcialmente generado por IA, señalando exactamente dónde se hicieron los cambios. Sin esta granularidad, las etiquetas binarias ("real" vs "fake") pueden ser manipuladas para desacreditar contenido auténtico.

La paradoja de la confianza

Existe evidencia creciente de que las personas se dejan influir por contenido generado por IA incluso cuando saben que es falso. Un estudio reciente sobre videos pro-rusos generados por IA mostró que los comentarios señalando su origen artificial recibían mucho menos engagement que los que los trataban como genuinos.

¿Significa esto que la verificación técnica es inútil? Farid mantiene el optimismo: "¿Hay gente que, sin importar lo que les digas, va a creer lo que quiere creer? Sí. Pero hay una gran mayoría de estadounidenses y ciudadanos del mundo que sí quieren conocer la verdad".

El riesgo está en la implementación deficiente. Si los sistemas de etiquetado se lanzan apresuradamente, se aplican inconsistentemente o fallan frecuentemente, la gente podría desconfiar de ellos por completo. Los investigadores argumentan que "puede ser mejor no mostrar nada en absoluto que un veredicto que podría estar equivocado".

El test de California

La Ley de Transparencia de IA de California ofrece una prueba regulatoria concreta: exige a ciertos proveedores herramientas de detección y divulgaciones manifiestas y latentes. La ley quedó operativa el 1 de enero de 2026. El texto legal también limita la retención de contenido y datos personales enviados a una herramienta de detección.

Pero la implementación enfrenta obstáculos políticos. La orden ejecutiva del presidente Trump busca limitar regulaciones estatales de IA "onerosas" para la industria. La administración también canceló subvenciones relacionadas con desinformación y, paradójicamente, el Departamento de Seguridad Nacional usa generadores de video de Google y Adobe para crear contenido que comparte con el público.

Cuando pregunté a Horvitz si el contenido falso de fuentes gubernamentales le preocupa tanto como el de redes sociales, inicialmente declinó comentar. Luego añadió: "Los gobiernos no han estado fuera de los sectores que han estado detrás de varios tipos de desinformación manipulativa, y esto es mundial".

La ironía es evidente: mientras Microsoft propone estándares para verificar la autenticidad online, los mismos gobiernos que podrían implementarlos siguen siendo fuentes de contenido manipulado. La tecnología puede ofrecer herramientas, pero la voluntad política de usarlas correctamente sigue siendo la variable más incierta.

Cómo leer una credencial sin pedirle que sea un árbitro

La primera pregunta es qué afirma exactamente la señal. Un manifiesto puede registrar el programa que editó un archivo, el momento de una transformación y los ingredientes incorporados. Una firma prueba que los datos asociados no cambiaron después y que proceden de una credencial determinada. No prueba la intención del autor, la exactitud del pie de foto ni que la identidad del firmante merezca confianza. El propio modelo de C2PA separa validación técnica y juicio humano.

La segunda pregunta es qué ocurrió durante la distribución. Una red puede recomprimir, recortar o convertir el archivo y separar sus metadatos. Una marca de agua puede sobrevivir a unas transformaciones y no a otras. Una huella perceptual puede buscar una copia parecida en un repositorio, pero necesita umbrales y puede confundir versiones. Por eso la ausencia de credencial no demuestra falsedad: puede significar que nunca existió, que se perdió o que el verificador no pudo recuperarla.

La tercera es quién controla la raíz de confianza. Una firma solo conduce hasta una identidad o servicio; el lector todavía necesita saber qué política permitió emitir esa credencial, si fue revocada y qué interfaz muestra un fallo. «Firma válida» no equivale a «editor fiable». Del mismo modo, una alerta de manipulación debería explicar qué componente falló, en vez de pintar todo el contenido como falso.

Una prueba sencilla para cualquier etiqueta

Antes de aceptar una etiqueta, conviene buscar cuatro datos: la afirmación concreta que valida, el firmante, las transformaciones que la cadena conserva y el estado de la verificación. Después hay que contrastar el hecho representado con fuentes independientes. Esa secuencia evita dos errores simétricos: creer un archivo solo porque está firmado y descartar una prueba real solo porque su procedencia técnica se dañó.

La capacidad transferible es distinguir procedencia, integridad y verdad. La procedencia cuenta una historia sobre el archivo; la integridad muestra si esa historia fue alterada; la verdad exige comprobar el mundo. Combinar tecnologías puede fortalecer las dos primeras, pero ninguna arquitectura elimina la tercera tarea.

Nota de corrección · 30 de julio de 2026

Qué decía esta pieza: «Un equipo de investigación en seguridad de IA de la compañía evaluó 60 combinaciones diferentes de técnicas anti-manipulación y propone estándares técnicos que empresas de IA y plataformas sociales podrían adoptar.»

Qué dice ahora y por qué: la cifra de 60 combinaciones se retiró porque el informe de Microsoft Research que la pieza cita no publica esa evaluación. El texto conserva lo que la fuente sí sostiene: el análisis de tres tecnologías representativas y sus amenazas.