TikTok prueba una alerta de likeness con IA: detectar no es decidir

Una imagen, una voz o unos gestos pueden ser suficientes para que una persona sea reconocible. Cuando esas señales se recrean con inteligencia artificial, el problema ya no es solo saber si un vídeo es sintético: también importa quién aparece, si dio su consentimiento y qué ocurre cuando la plataforma recibe una denuncia.

TikTok está probando con algunos creadores de Estados Unidos una herramienta voluntaria para localizar posibles likenesses generados con IA y reportarlos a la compañía, según The Verge, que atribuye la confirmación de la prueba a Zachary Kizer, portavoz de TikTok en EE. UU. No hay por ahora un anuncio público detallado sobre la tecnología, el número de participantes, los formatos que analiza ni sus tasas de acierto. Esa falta de detalle obliga a hablar de una prueba, no de una protección ya disponible para toda la plataforma.

Aun así, la iniciativa encaja con una cuestión que gana importancia en las redes: los sistemas de etiquetado pueden advertir que algo fue creado o editado con IA, pero no resuelven por sí solos el uso no consentido de la identidad de una persona.

Qué se está probando

La información disponible describe una función opcional que busca likenesses de IA y permite que el creador reporte los resultados a TikTok. “Likeness” no se limita al rostro. En sus normas de comunidad, TikTok define el término como una representación reconocible de la cara, el cuerpo, la voz o los gestos de una persona.

Eso hace que la herramienta, si funciona como se ha descrito, sea distinta de un simple aviso de contenido generado por IA. Una etiqueta responde a la pregunta de si un medio fue generado o modificado significativamente. Una alerta de likeness intenta responder a otra: si ese medio podría representar a una persona identificable. Ambas señales pueden ser útiles, pero ninguna decide por sí sola si el contenido infringe las reglas o si existe consentimiento.

Tampoco conviene interpretar “detección” como una promesa de encontrar cada uso. La herramienta podría devolver coincidencias relevantes, pasar por alto material o señalar contenido que finalmente no corresponda a la persona. En una prueba responsable, el resultado debería ser el comienzo de una revisión, no un veredicto automático ni una retirada sin contexto.

Las reglas ya existentes

TikTok ya exige que los creadores etiqueten el contenido creado con IA o editado de forma significativa cuando muestra personas o escenas de apariencia realista. La plataforma advierte de que el material sin etiqueta puede ser eliminado, restringido o etiquetado por sus equipos según el daño potencial.

Además, sus normas prohíben usar la likeness de personas privadas sin consentimiento. También vetan las representaciones creadas con IA que sirvan para acosar, victimizar o engañar sobre asuntos de interés público. Las políticas no convierten todo contenido sintético en una infracción: el humor, el arte y los formatos claramente contextuales pueden estar permitidos. La diferencia es importante, porque la moderación necesita atender a la persona representada, al contexto y al posible perjuicio.

La prueba de detección puede ayudar a que quienes aparezcan en contenido potencialmente problemático lo encuentren antes. Pero encontrar no equivale a resolver. La plataforma debe explicar qué información recibe al denunciar, cómo se comprueba una coincidencia, cuánto tarda la respuesta y qué vías existen si una decisión es errónea.

Etiquetas, procedencia y búsqueda

TikTok ha desarrollado otras capas para la transparencia del contenido de IA. El 10 de julio afirmó que había etiquetado más de 3.000 millones de vídeos como AIGC con una combinación de Content Credentials, herramientas de etiquetado para creadores y marcas de agua invisibles. También anunció pruebas de detección para cuentas dedicadas a publicar spam generado por IA y su incorporación al comité directivo de C2PA.

Las Content Credentials de C2PA registran información de procedencia cuando el contenido conserva esos metadatos. Son útiles para conocer el recorrido de un archivo, pero no sustituyen una búsqueda de likeness: un vídeo puede carecer de metadatos legibles, y un archivo con procedencia no responde necesariamente a la pregunta de si se usó una identidad con permiso.

Por eso las tres capas se complementan. El etiquetado informa; la procedencia aporta contexto técnico; una detección de likeness puede facilitar que una persona descubra usos que merece revisar. La respuesta final exige normas claras y evaluación humana.

La novedad de TikTok debe juzgarse por resultados, no por el nombre de la función. Sería razonable que la compañía publique el alcance de la prueba, los tipos de coincidencia que intenta detectar, cómo mide errores y cómo protege a los creadores frente a denuncias equivocadas. En un espacio donde la imagen y la voz se pueden sintetizar con facilidad, dar a las personas una forma de encontrar posibles imitaciones es útil. Convertir una coincidencia algorítmica en una decisión justa es la parte más difícil.