Sesgo

La palabra sesgo (en inglés, bias) es una de las más resbaladizas del vocabulario de la inteligencia artificial: nombra al menos cuatro conceptos distintos que solo comparten el nombre. Confundirlos es un error frecuente, porque el «sesgo» que un ingeniero ajusta dentro de una neurona no tiene nada que ver con el «sesgo» del que hablan los titulares sobre discriminación algorítmica.

Conviene separar cuatro sentidos: el término de sesgo o intercepto, el sesgo estadístico de un estimador, el sesgo del compromiso sesgo-varianza y el sesgo algorítmico o social. Los tres primeros son conceptos técnicos; el cuarto describe efectos sociales y normativos.

El término de sesgo o intercepto

En una neurona artificial, la salida se calcula como una suma ponderada de las entradas más una constante: cada entrada se multiplica por su peso y al total se le añade un valor b, el término de sesgo, antes de pasar por la función de activación. Ese b es un desplazamiento fijo, independiente de las entradas, análogo al intercepto de una regresión lineal (y = wx + b). Su función es desplazar la función de activación para que la neurona pueda activarse en el punto adecuado. Manuales como Deep Learning, de Goodfellow, Bengio y Courville, lo tratan como un parámetro más que la red aprende. Aquí «sesgo» no significa error ni injusticia: es simplemente un número que se suma.

El sesgo estadístico de un estimador

En estadística, el sesgo mide otra cosa: la diferencia sistemática entre el valor esperado de un estimador y el valor real del parámetro que intenta calcular. Formalmente, Sesgo(θ̂) = E[θ̂] − θ. Si esa diferencia es cero, el estimador es insesgado. Un ejemplo clásico: estimar la varianza de una población dividiendo entre n subestima sistemáticamente el valor real; dividir entre n−1 (la corrección de Bessel) lo corrige. El sesgo estadístico es distinto de la consistencia: un estimador puede ser sesgado y aun así converger al valor verdadero al crecer la muestra.

El sesgo en el compromiso sesgo-varianza

Un tercer sentido aparece al descomponer el error de un modelo. El error de generalización puede escribirse como la suma de sesgo, varianza y un error irreducible. Aquí el sesgo es el error que comete un modelo demasiado simple, que parte de supuestos fuertes y no capta el patrón de los datos: es el infraajuste o underfitting. Reducir el sesgo suele aumentar la varianza y viceversa, de ahí el nombre de compromiso.

El sesgo algorítmico y la equidad

El cuarto sentido es social: un sistema puede producir resultados dañinos o desiguales por los datos, el diseño o el contexto de uso. El NIST distingue sesgos sistémicos, estadísticos y computacionales, y humanos. Mitigarlos exige identificar cuál opera en cada caso; “equidad” no nombra una única prueba universal.