Microsoft propone su receta contra los deepfakes: watermarks, firmas digitales y metadatos combinados

Una auditoría de 2024 reveló que solo el 30% de las publicaciones con contenido generado por IA en Instagram, LinkedIn, Pinterest, TikTok y YouTube llevaban las etiquetas correspondientes. Mientras tanto, campañas de influencia rusas distribuyen videos deepfake para desalentar el reclutamiento ucraniano, y funcionarios de la Casa Blanca comparten imágenes manipuladas sin consecuencias.

En este panorama caótico, Microsoft acaba de presentar su blueprint para demostrar qué es real en internet. Un equipo de investigación en seguridad de IA de la compañía evaluó 60 combinaciones diferentes de técnicas anti-manipulación y propone estándares técnicos que empresas de IA y plataformas sociales podrían adoptar.

La analogía del Rembrandt digital

Eric Horvitz, director científico de Microsoft, explica el enfoque con una analogía artística. Imagina que tienes un Rembrandt auténtico y necesitas documentar su autenticidad. Crearías un manifiesto detallado de su procedencia, aplicarías una marca de agua invisible al ojo humano pero legible por máquinas, y generarías una firma matemática basada en las pinceladas, como una huella dactilar única.

Este mismo principio se aplica al contenido digital. Los investigadores de Microsoft modelaron cómo diferentes combinaciones de metadatos de procedencia, watermarks y firmas digitales resistirían diversos escenarios de falla: desde la eliminación de metadatos hasta alteraciones deliberadas del contenido.

La clave está en la redundancia inteligente. Una sola técnica puede fallar, pero la combinación correcta crea un sistema robusto de verificación.

Los límites de la detección automática

Hay que ser claros sobre qué pueden y no pueden hacer estas herramientas. Como explica Horvitz a los legisladores escépticos de Big Tech: "No se trata de decidir qué es verdadero o falso, sino de crear etiquetas que informen a la gente de dónde viene el contenido".

Las herramientas solo detectan manipulación, no veracidad. Pueden decirte si una imagen fue alterada con IA, pero no si el evento que muestra realmente ocurrió. Es la diferencia entre autenticidad técnica y precisión factual.

Hany Farid, profesor de UC Berkeley especializado en forense digital, considera que si la industria adoptara el blueprint de Microsoft, "sería significativamente más difícil engañar al público con contenido manipulado". Aunque reconoce que individuos sofisticados o gobiernos pueden burlar estas herramientas, el estándar eliminaría "una porción significativa de material engañoso".

El problema de los incentivos económicos

Microsoft ocupa una posición única en el ecosistema de contenido IA: opera Copilot (generación de imágenes y texto), Azure (acceso a OpenAI y otros modelos), LinkedIn, y tiene participación significativa en OpenAI. Sin embargo, cuando se le preguntó sobre implementar sus propias recomendaciones, Horvitz fue evasivo: "Los grupos de producto están tomando medidas basadas en los hallazgos del reporte".

La reticencia no sorprende. Como señala Farid: "Si los Mark Zuckerberg y Elon Musk del mundo piensan que poner etiquetas de 'generado por IA' reducirá el engagement, obviamente tienen incentivos para no hacerlo".

Google comenzó a agregar watermarks a su contenido generado por IA en 2023. Algunas plataformas usan C2PA, un estándar de procedencia que Microsoft ayudó a lanzar en 2021. Pero la adopción sigue siendo irregular y voluntaria.

Ataques sociotécnicos: el nuevo campo de batalla

Los investigadores identifican un riesgo emergente: los ataques sociotécnicos. Imagina que alguien toma una imagen real de un evento político controversial y usa IA para cambiar solo una fracción insignificante de píxeles. Cuando se distribuye online, podría ser clasificada erróneamente como "manipulada por IA".

La combinación de herramientas de procedencia y watermarks permitiría a las plataformas aclarar que el contenido fue solo parcialmente generado por IA, señalando exactamente dónde se hicieron los cambios. Sin esta granularidad, las etiquetas binarias ("real" vs "fake") pueden ser manipuladas para desacreditar contenido auténtico.

La paradoja de la confianza

Existe evidencia creciente de que las personas se dejan influir por contenido generado por IA incluso cuando saben que es falso. Un estudio reciente sobre videos pro-rusos generados por IA mostró que los comentarios señalando su origen artificial recibían mucho menos engagement que los que los trataban como genuinos.

¿Significa esto que la verificación técnica es inútil? Farid mantiene el optimismo: "¿Hay gente que, sin importar lo que les digas, va a creer lo que quiere creer? Sí. Pero hay una gran mayoría de estadounidenses y ciudadanos del mundo que sí quieren conocer la verdad".

El riesgo está en la implementación deficiente. Si los sistemas de etiquetado se lanzan apresuradamente, se aplican inconsistentemente o fallan frecuentemente, la gente podría desconfiar de ellos por completo. Los investigadores argumentan que "puede ser mejor no mostrar nada en absoluto que un veredicto que podría estar equivocado".

El test de California

La Ley de Transparencia de IA de California, que entra en vigor en agosto, será la primera prueba importante de estas herramientas en Estados Unidos. Microsoft participó activamente en el cabildeo durante su redacción, logrando que los requisitos fueran "un poco más realistas", según Horvitz.

Pero la implementación enfrenta obstáculos políticos. La orden ejecutiva del presidente Trump busca limitar regulaciones estatales de IA "onerosas" para la industria. La administración también canceló subvenciones relacionadas con desinformación y, paradójicamente, el Departamento de Seguridad Nacional usa generadores de video de Google y Adobe para crear contenido que comparte con el público.

Cuando pregunté a Horvitz si el contenido falso de fuentes gubernamentales le preocupa tanto como el de redes sociales, inicialmente declinó comentar. Luego añadió: "Los gobiernos no han estado fuera de los sectores que han estado detrás de varios tipos de desinformación manipulativa, y esto es mundial".

La ironía es evidente: mientras Microsoft propone estándares para verificar la autenticidad online, los mismos gobiernos que podrían implementarlos siguen siendo fuentes de contenido manipulado. La tecnología puede ofrecer herramientas, pero la voluntad política de usarlas correctamente sigue siendo la variable más incierta.