Sesgo en modelos de lenguaje: de la etiqueta al daño medible

Reeditado el 30 de julio de 2026, este artículo sustituye una promesa imposible —«eliminar el sesgo»— por una tarea verificable: identificar a quién puede perjudicar un sistema de lenguaje, en qué situación, mediante qué mecanismo y con qué evidencia. Un modelo no contiene un medidor único de justicia. Puede rendir de forma desigual al reconocer variedades lingüísticas, reproducir estereotipos al generar texto o amplificar una decisión injusta cuando se integra en selección laboral, crédito o moderación.

La ética tampoco se añade al final como un filtro. Las decisiones sobre objetivo, datos, categorías, idioma, acceso, interfaz y supervisión distribuyen beneficios y errores antes de que aparezca la primera salida. La pregunta útil no es si una tecnología «tiene sesgo», sino qué daño se está estudiando y frente a qué alternativa.

Definir el daño antes de medirlo

«Sesgo» puede nombrar fenómenos distintos: una asociación estadística, una diferencia de rendimiento, una representación degradante, la exclusión de una lengua o una decisión con impacto dispar. Confundirlos produce métricas sin objeto. El análisis empieza por declarar la población, la tarea, el daño, la referencia de comparación y quién puede impugnar el resultado.

La revisión Language (Technology) is Power examinó 146 trabajos sobre sesgo en PLN y encontró problemas recurrentes de concepto y método: descripciones vagas del sesgo, poca conexión con las estructuras sociales relevantes y conclusiones que exceden lo medido. Sus autoras proponen razonar sobre relaciones de poder y daños concretos. Una correlación entre palabras puede ser evidencia para una hipótesis delimitada; no demuestra por sí sola qué sufrirá una persona en un producto real.

Conviene separar al menos tres familias. Los daños de representación incluyen estereotipar, denigrar o hacer invisible a un grupo. Los daños de asignación afectan quién recibe un recurso, una oportunidad o una carga. Los fallos de calidad de servicio aparecen cuando el sistema funciona peor para determinadas lenguas, dialectos o formas de expresión. Pueden coexistir, pero exigen pruebas y remedios distintos.

El problema recorre todo el sistema

Los datos incorporan decisiones de muestreo: qué sitios, periodos, idiomas y comunidades entran; qué se excluye; quién acepta ser observado. Las etiquetas añaden otra capa: una categoría como «toxicidad» depende de instrucciones, contexto y desacuerdos entre anotadores. El objetivo de entrenamiento recompensa ciertas regularidades; la tokenización distribuye recursos de forma desigual; el ajuste y el filtrado cambian qué respuestas llegan al usuario.

Documentar el conjunto no lo vuelve neutral, pero hace visibles esas decisiones. Datasheets for Datasets propone responder preguntas sobre motivación, composición, proceso de recogida, preprocesamiento, usos, distribución y mantenimiento. La ficha permite detectar, por ejemplo, que una evaluación supuestamente multilingüe se construyó por traducción desde un único idioma o que no existe consentimiento para el uso previsto.

El despliegue añade mecanismos que no están en los pesos del modelo. Una instrucción del sistema, una base documental, una herramienta externa, la temperatura de muestreo, un umbral o la forma de presentar recomendaciones pueden cambiar el daño. También importa la exposición: una salida ofensiva ocasional en una prueba cerrada no tiene el mismo alcance que una clasificación repetida millones de veces. Auditar solo el modelo y no el flujo completo deja fuera la decisión que afecta a la persona.

Un benchmark es un instrumento, no un veredicto

Las pruebas emparejadas modifican un atributo mientras conservan el resto del texto; los análisis desagregados comparan resultados por grupo; las evaluaciones abiertas revisan el contenido generado con una rúbrica. Cada técnica responde a una pregunta distinta y puede introducir sus propios supuestos. Un promedio general puede ocultar un fallo minoritario; un conjunto sintético puede aislar una variable pero no reproducir el uso cotidiano.

StereoSet combina contextos intraoracionales e interoracionales para medir asociaciones estereotípicas en género, profesión, raza y religión junto con capacidad de modelado del lenguaje. Sus puntuaciones permiten comparar una conducta definida en ese conjunto; no certifican que un sistema sea justo en todos los dominios. Además, las categorías y frases elegidas por el benchmark merecen revisión: medir un estereotipo obliga a representarlo dentro del instrumento.

BBQ usa preguntas con contextos ambiguos y desambiguados para observar cuándo un sistema se apoya en estereotipos y cuándo utiliza evidencia explícita. La estructura enseña un principio transferible: incluir controles que distingan el daño aparente de una carencia general de capacidad. Si un modelo falla toda comprensión lectora, una diferencia entre grupos no puede interpretarse de la misma forma que en un sistema competente en la tarea base.

El tamaño y la composición de la muestra también determinan qué puede concluirse. Un grupo con pocos casos produce estimaciones inestables; juntar identidades distintas puede borrar diferencias; probar una única respuesta de un generador estocástico oculta variación entre ejecuciones. El informe debe mostrar recuentos, intervalos o variabilidad pertinente y ejemplos de error revisados. Quienes viven el posible daño aportan contexto para diseñar la prueba, pero su participación requiere tiempo, compensación y poder para cambiar el sistema, no una consulta decorativa al final.

Mitigar es cambiar un mecanismo y volver a probar

La intervención debe corresponder al hallazgo. Si falta una variedad lingüística, puede cambiar el muestreo y la evaluación. Si una etiqueta mezcla fenómenos, se revisan instrucciones y desacuerdos. Si una salida de alto impacto no tiene evidencia suficiente, se limita la automatización, se exige abstención o se introduce revisión humana. Si el producto permite abuso a escala, hacen falta controles de acceso, registros y respuesta a incidentes.

No existe una operación universal de «des-sesgo». Reequilibrar datos puede mejorar una medida y degradar otra; borrar atributos protegidos no elimina sus correlatos; un filtro de salida puede ocultar una asociación sin corregir decisiones internas y puede bloquear de más el habla de los grupos que pretendía proteger. Por eso cada versión necesita una hipótesis previa, una prueba de capacidad para evitar que la utilidad se derrumbe, métricas de daño y un examen de efectos secundarios.

Los resultados deben acompañar al modelo. Model Cards for Model Reporting propone documentar usos previstos, factores relevantes, métricas, datos de evaluación y resultados desagregados. La tarjeta no sustituye una auditoría ni convierte al proveedor en juez único; crea un registro contra el que usuarios y revisores pueden contrastar una afirmación. Si cambian el modelo, el prompt, los datos recuperados o la población, la evaluación anterior deja de describir exactamente el sistema nuevo.

De una prueba aislada a gobierno continuo

La ética se vuelve operativa cuando alguien tiene autoridad para detener, corregir y retirar. El Marco de Gestión de Riesgos de IA de NIST organiza el trabajo en cuatro funciones: gobernar, mapear, medir y gestionar. Mapear sitúa el sistema y a las partes afectadas; medir reúne evidencia; gestionar prioriza respuestas; gobernar asigna políticas, funciones y rendición de cuentas. No es una lista que se completa una vez, sino un ciclo.

Un registro mínimo enlaza cada afirmación con cinco elementos: daño definido, población y contexto, métrica con sus límites, intervención y señal de seguimiento. Debe incluir quién revisa reclamaciones, qué cambio obliga a repetir las pruebas y cuál es el umbral de pausa. Publicar promedios sin fallos, o anunciar una mitigación sin enseñar la comparación, impide comprobar el progreso.

El seguimiento utiliza señales del servicio y no solo un benchmark congelado: tasas de abstención y corrección humana, reclamaciones fundamentadas, diferencias por idioma y cambios en la distribución de entradas. Esas señales no prueban por sí solas justicia, pero alertan de que las condiciones evaluadas dejaron de representar el uso. Conservar versiones permite relacionar un cambio con su efecto y volver atrás cuando la mitigación causa un daño nuevo.

El objetivo responsable no es una «IA libre de sesgos», fórmula que oculta decisiones y promete un final inexistente. Es un sistema cuyos daños relevantes están nombrados, medidos bajo condiciones declaradas, reducidos mediante una intervención rastreable y vigilados después del despliegue. La capacidad transferible es pedir esa cadena completa cada vez que alguien afirme que un modelo es «más justo».