Sesgo

La palabra sesgo (en inglés, bias) es una de las más resbaladizas del vocabulario de la inteligencia artificial: nombra al menos cuatro conceptos distintos que solo comparten el nombre. Confundirlos es un error frecuente, porque el «sesgo» que un ingeniero ajusta dentro de una neurona no tiene nada que ver con el «sesgo» del que hablan los titulares sobre discriminación algorítmica.

Conviene separar cuatro sentidos: el término de sesgo o intercepto, el sesgo estadístico de un estimador, el sesgo del compromiso sesgo-varianza y el sesgo algorítmico o social. Los tres primeros son técnicos y neutros; el cuarto es ético.

El término de sesgo o intercepto

En una neurona artificial, la salida se calcula como una suma ponderada de las entradas más una constante: cada entrada se multiplica por su peso y al total se le añade un valor b, el término de sesgo, antes de pasar por la función de activación. Ese b es un desplazamiento fijo, independiente de las entradas, análogo al intercepto de una regresión lineal (y = wx + b). Su función es desplazar la función de activación para que la neurona pueda activarse en el punto adecuado. Manuales como Deep Learning, de Goodfellow, Bengio y Courville, lo tratan como un parámetro más que la red aprende. Aquí «sesgo» no significa error ni injusticia: es simplemente un número que se suma.

El sesgo estadístico de un estimador

En estadística, el sesgo mide otra cosa: la diferencia sistemática entre el valor esperado de un estimador y el valor real del parámetro que intenta calcular. Formalmente, Sesgo(θ̂) = E[θ̂] − θ. Si esa diferencia es cero, el estimador es insesgado. Un ejemplo clásico: estimar la varianza de una población dividiendo entre n subestima sistemáticamente el valor real; dividir entre n−1 (la corrección de Bessel) lo corrige. El sesgo estadístico es distinto de la consistencia: un estimador puede ser sesgado y aun así converger al valor verdadero al crecer la muestra.

El sesgo en el compromiso sesgo-varianza

Un tercer sentido aparece al descomponer el error de un modelo. El error de generalización puede escribirse como la suma de sesgo, varianza y un error irreducible. Aquí el sesgo es el error que comete un modelo demasiado simple, que parte de supuestos fuertes y no capta el patrón de los datos: es el infraajuste o underfitting. Reducir el sesgo suele aumentar la varianza y viceversa, de ahí el nombre de compromiso. Lo formalizaron Geman, Bienenstock y Doursat en 1992, y es doctrina en The Elements of Statistical Learning, de Hastie, Tibshirani y Friedman.

El sesgo algorítmico y la equidad

El cuarto sentido es el social: un sistema produce resultados sistemáticamente injustos hacia ciertos grupos, casi siempre por los datos con que se entrena o por decisiones de diseño. El estudio Gender Shades, de Buolamwini y Gebru (2018), halló que sistemas comerciales de clasificación fallaban menos del 1% con hombres de piel clara y hasta un 34,7% con mujeres de piel oscura. La herramienta de contratación que Amazon descartó en 2018 penalizaba currículos que mencionaban «women's». Y el análisis de ProPublica sobre COMPAS (2016) documentó disparidades por raza en las tasas de error. Este sesgo se estudia junto a la equidad (fairness). Mitigarlo sigue siendo un problema abierto: existen definiciones de equidad matemáticamente incompatibles entre sí, y no hay consenso sobre cuál aplicar.