Un preprint propone auditar la cadena de confianza entre humanos y modelos de IA

El 8 de julio de 2026, Mihnea C. Moldoveanu y Joel A.C. Baum publicaron en arXiv un preprint de 50 páginas con un título poco amable pero una pregunta cotidiana: ¿cómo sabemos qué merece confianza cuando una afirmación pasa por personas, instituciones y modelos de lenguaje? Su respuesta no es un detector de mentiras ni una nueva herramienta de IA. Es un marco conceptual para revisar la cadena que sostiene una afirmación. El paper —clasificado en inteligencia artificial y en redes sociales y de información— es teórico, no experimental: sus autores «esbozan» un lenguaje y unos mecanismos, no miden una reducción de errores.

El trabajo, Adversarial Social Epistemology for Assemblies of Humans and Large Language Models, parte de algo reconocible. Una respuesta aparentemente simple puede contener una fuente original, un resumen humano, una regla institucional, una inferencia y una reformulación generada por un modelo. Cada paso puede introducir un error, omitir un límite o presentar una conclusión como si fuera un hecho. Cuando la cadena queda oculta, el tono seguro de la última frase puede sustituir indebidamente a la evidencia. El artículo nombra los cuatro andamiajes sobre los que se apoya una afirmación pública: el testimonio (alguien lo dijo), la inferencia (de A se sigue B), la certificación institucional (una autoridad lo respalda) y la confianza tácita (damos por sentado el resto). Un ataque a la confianza no necesita romper los cuatro: le basta socavar uno sin que se note.

La capacidad útil para el lector es sencilla: no pregunte primero “¿lo dijo una IA o una persona?”. Pregunte “¿qué cadena produjo esta frase y puedo revisarla?”. Ese hábito seguirá sirviendo aunque cambien el modelo, la plataforma y el asunto.

Una afirmación no llega sola

Los autores llaman a su propuesta epistemología social adversarial. “Social” significa que el conocimiento público depende de otros: testigos, expertos, medios, bases de datos, certificadores y lectores. “Adversarial” no significa que todo el mundo mienta. Significa que, en entornos con incentivos reputacionales, económicos o políticos, alguien puede tener margen para exagerar, seleccionar datos, omitir condiciones o atribuir a otra fuente una conclusión que esa fuente no sostiene. La maquinaria que los autores toman prestada de la filosofía del lenguaje afina la idea: cada afirmación conlleva un compromiso —el deber de defenderla si se la cuestiona— y una titularidad —el derecho de los demás a apoyarse en ella—. El abuso característico consiste en cobrar la titularidad sin pagar el compromiso: presentar algo como respaldado para que otros se fíen, mientras se elude la obligación de sostenerlo cuando alguien pregunta. Un modelo de lenguaje, que produce frases con aplomo pero sin nadie detrás que responda, es un vehículo perfecto para ese desajuste.

El paper sostiene que las etiquetas habituales —burbuja, cámara de eco o difusión de desinformación— no siempre bastan. El problema puede estar dentro de una cadena que parece legítima: una cita real pierde su contexto; un informe fiable se resume como si garantizara una decisión; un sistema de IA combina varios documentos sin conservar qué parte respalda cada frase. La confianza falla no solo por un contenido falso, sino por la pérdida de auditabilidad. Ahí está, según el artículo, el verdadero blanco del ataque: no la verdad de una frase, sino la posibilidad de rastrearla. Su propuesta técnica —redes epistémicas enriquecidas con una semántica inferencialista— es, traducida, un modo de dibujar quién se apoya en quién y de exigir que cada eslabón conserve de qué se sigue lo que afirma. Suena abstracto; su consecuencia práctica no lo es: obliga a que una cadena declare sus juntas en vez de presentarse como una pieza lisa.

Esto importa para los modelos de lenguaje porque hacen muy fácil producir texto fluido. Un modelo puede resumir correctamente una fuente y, aun así, no indicar si su respuesta contiene una inferencia propia, una generalización o información que no puede comprobar. Un usuario puede copiar ese texto a un correo, un informe o una publicación. Al final de la cadena, nadie sabe ya quién afirmó qué ni con qué límite.

Por qué «cámara de eco» no basta

La distinción con las etiquetas de siempre es la parte que hace útil el marco. Una cámara de eco explica que veamos siempre el mismo tipo de mensaje; una burbuja, que no nos llegue lo contrario; la desinformación, que circule algo falso a propósito. Ninguna de las tres describe el caso que a los autores les preocupa: una cadena donde cada eslabón es, por separado, defendible —la fuente existe, el resumen es fiel, la institución es real— y aun así el resultado engaña, porque en algún punto se perdió qué respaldaba a qué. El fallo no está en un nodo mentiroso; está en las juntas entre nodos honestos.

Ese desplazamiento del foco importa con los modelos de lenguaje precisamente porque son máquinas de suavizar juntas. Un buen modelo cose una fuente primaria, un informe intermedio y una conclusión en un párrafo terso donde ya no se ve la costura — y esa tersura, que leemos como calidad, es justo lo que borra la información que el marco quiere conservar. La fluidez no es neutral: es el disolvente de la auditabilidad.

Cinco preguntas para abrir la cadena

La primera es fuente: ¿de dónde sale el dato concreto? Un enlace a una página general no basta si la afirmación depende de una tabla, una fecha o una frase determinada. La segunda es transformación: ¿se copió, se resumió, se tradujo o se combinó con otras fuentes? Cada transformación puede cambiar el alcance.

La tercera es inferencia: ¿qué parte está escrita en la fuente y qué parte es una conclusión? “La empresa presentó un documento” y “la empresa hará X” no son la misma afirmación. La cuarta es responsable: ¿quién eligió la fuente, redactó el resumen, aprobó el uso del modelo o decidió publicar? Nombrar un responsable no busca culpables automáticos; permite pedir una corrección o una explicación.

La quinta es revisión: ¿puede otra persona recorrer el camino y llegar a una respuesta razonable sobre el mismo material? Si no hay documento, versión, cita, registro o forma de corregir, la afirmación merece menos confianza proporcionalmente. Esta lista no prueba que una frase sea falsa. Hace visible qué tendría que comprobarse.

El papel de la IA: asistente, no certificado

Un modelo puede ayudar en varios pasos: localizar documentos, comparar versiones, extraer citas o redactar una síntesis. Ninguno de ellos convierte su salida en una certificación. La persona que use el resultado debe conservar los enlaces, distinguir la cita de la interpretación y poder explicar por qué una fuente era adecuada para esa pregunta.

También hay una trampa simétrica: pedir al propio modelo que “verifique” su respuesta no sustituye una revisión independiente. Puede revisar formato o contrastar fuentes accesibles, pero si no se muestra el material y el método, el lector no puede evaluar el resultado. La verificación útil deja huellas revisables.

Una propuesta, no una solución demostrada

Conviene no vender más de lo que el artículo ofrece. Es un preprint, enviado a arXiv el 8 de julio, no un estudio experimental que mida una reducción de errores ni un sistema desplegado. Los autores “esbozan” lenguaje y mecanismos para auditar brechas de confianza. La idea puede inspirar diseños de producto, procedimientos editoriales o investigación futura; todavía necesita aplicaciones y evaluación.

Ese límite no lo vuelve irrelevante. Muchas decisiones con IA fallan antes de la evaluación técnica: se acepta una respuesta porque parece bien escrita, porque cita una institución o porque nadie tiene tiempo de reconstruirla. Convertir la cadena en parte del producto —con fuentes, cambios, responsables y vías de apelación— es una decisión de diseño que puede aplicarse ya.

La próxima vez que un sistema le entregue una conclusión importante, no elija entre confianza total y rechazo total. Pida la cadena. Si puede distinguir la fuente, la transformación, la inferencia, el responsable y la revisión, tendrá algo mejor que una promesa de fiabilidad: una forma de comprobarla.

Fuente primaria: preprint en arXiv y PDF.