Un preprint propone auditar la cadena de confianza entre humanos y modelos de IA

El 8 de julio de 2026, Mihnea C. Moldoveanu y Joel A.C. Baum publicaron en arXiv un preprint de 50 páginas con un título poco amable pero una pregunta cotidiana: ¿cómo sabemos qué merece confianza cuando una afirmación pasa por personas, instituciones y modelos de lenguaje? Su respuesta no es un detector de mentiras ni una nueva herramienta de IA. Es un marco conceptual para revisar la cadena que sostiene una afirmación.

El trabajo, Adversarial Social Epistemology for Assemblies of Humans and Large Language Models, parte de algo reconocible. Una respuesta aparentemente simple puede contener una fuente original, un resumen humano, una regla institucional, una inferencia y una reformulación generada por un modelo. Cada paso puede introducir un error, omitir un límite o presentar una conclusión como si fuera un hecho. Cuando la cadena queda oculta, el tono seguro de la última frase puede sustituir indebidamente a la evidencia.

La capacidad útil para el lector es sencilla: no pregunte primero “¿lo dijo una IA o una persona?”. Pregunte “¿qué cadena produjo esta frase y puedo revisarla?”. Ese hábito seguirá sirviendo aunque cambien el modelo, la plataforma y el asunto.

Una afirmación no llega sola

Los autores llaman a su propuesta epistemología social adversarial. “Social” significa que el conocimiento público depende de otros: testigos, expertos, medios, bases de datos, certificadores y lectores. “Adversarial” no significa que todo el mundo mienta. Significa que, en entornos con incentivos reputacionales, económicos o políticos, alguien puede tener margen para exagerar, seleccionar datos, omitir condiciones o atribuir a otra fuente una conclusión que esa fuente no sostiene.

El paper sostiene que las etiquetas habituales —burbuja, cámara de eco o difusión de desinformación— no siempre bastan. El problema puede estar dentro de una cadena que parece legítima: una cita real pierde su contexto; un informe fiable se resume como si garantizara una decisión; un sistema de IA combina varios documentos sin conservar qué parte respalda cada frase. La confianza falla no solo por un contenido falso, sino por la pérdida de auditabilidad.

Esto importa para los modelos de lenguaje porque hacen muy fácil producir texto fluido. Un modelo puede resumir correctamente una fuente y, aun así, no indicar si su respuesta contiene una inferencia propia, una generalización o información que no puede comprobar. Un usuario puede copiar ese texto a un correo, un informe o una publicación. Al final de la cadena, nadie sabe ya quién afirmó qué ni con qué límite.

Cinco preguntas para abrir la cadena

La primera es fuente: ¿de dónde sale el dato concreto? Un enlace a una página general no basta si la afirmación depende de una tabla, una fecha o una frase determinada. La segunda es transformación: ¿se copió, se resumió, se tradujo o se combinó con otras fuentes? Cada transformación puede cambiar el alcance.

La tercera es inferencia: ¿qué parte está escrita en la fuente y qué parte es una conclusión? “La empresa presentó un documento” y “la empresa hará X” no son la misma afirmación. La cuarta es responsable: ¿quién eligió la fuente, redactó el resumen, aprobó el uso del modelo o decidió publicar? Nombrar un responsable no busca culpables automáticos; permite pedir una corrección o una explicación.

La quinta es revisión: ¿puede otra persona recorrer el camino y llegar a una respuesta razonable sobre el mismo material? Si no hay documento, versión, cita, registro o forma de corregir, la afirmación merece menos confianza proporcionalmente. Esta lista no prueba que una frase sea falsa. Hace visible qué tendría que comprobarse.

El papel de la IA: asistente, no certificado

Un modelo puede ayudar en varios pasos: localizar documentos, comparar versiones, extraer citas o redactar una síntesis. Ninguno de ellos convierte su salida en una certificación. La persona que use el resultado debe conservar los enlaces, distinguir la cita de la interpretación y poder explicar por qué una fuente era adecuada para esa pregunta.

También hay una trampa simétrica: pedir al propio modelo que “verifique” su respuesta no sustituye una revisión independiente. Puede revisar formato o contrastar fuentes accesibles, pero si no se muestra el material y el método, el lector no puede evaluar el resultado. La verificación útil deja huellas revisables.

Una propuesta, no una solución demostrada

Conviene no vender más de lo que el artículo ofrece. Es un preprint, enviado a arXiv el 8 de julio, no un estudio experimental que mida una reducción de errores ni un sistema desplegado. Los autores “esbozan” lenguaje y mecanismos para auditar brechas de confianza. La idea puede inspirar diseños de producto, procedimientos editoriales o investigación futura; todavía necesita aplicaciones y evaluación.

Ese límite no lo vuelve irrelevante. Muchas decisiones con IA fallan antes de la evaluación técnica: se acepta una respuesta porque parece bien escrita, porque cita una institución o porque nadie tiene tiempo de reconstruirla. Convertir la cadena en parte del producto —con fuentes, cambios, responsables y vías de apelación— es una decisión de diseño que puede aplicarse ya.

La próxima vez que un sistema le entregue una conclusión importante, no elija entre confianza total y rechazo total. Pida la cadena. Si puede distinguir la fuente, la transformación, la inferencia, el responsable y la revisión, tendrá algo mejor que una promesa de fiabilidad: una forma de comprobarla.

Fuente primaria: preprint en arXiv y PDF.