Modelos

En aprendizaje automático, un modelo es la representación que un algoritmo de aprendizaje produce a partir de datos: un conjunto de parámetros —los pesos ajustados— junto con una estructura, que sirve para hacer predicciones o tomar decisiones sobre datos nuevos.

De ahí la distinción más importante y la que más se confunde: el algoritmo no es el modelo. El algoritmo es el procedimiento de entrenamiento —el método que recorre los datos y ajusta los parámetros—; el modelo es su resultado, los pesos ya fijados. La regresión logística, el descenso de gradiente o un árbol de decisión son algoritmos; lo que queda tras entrenarlos sobre un conjunto concreto de datos es un modelo. Un mismo algoritmo, con datos distintos, produce modelos distintos. Fuente primaria.

Paramétricos y no paramétricos, discriminativos y generativos

Los modelos se clasifican por cómo estructuran ese conocimiento. Un modelo paramétrico resume los datos en un número fijo de parámetros: una regresión lineal guarda solo sus coeficientes, sin importar cuántos ejemplos vea. Un modelo no paramétrico —los k vecinos más cercanos, muchos métodos basados en árboles— deja que la complejidad crezca con los datos; su espacio de parámetros es, en términos estadísticos, de dimensión infinita. Fuente primaria.

Otra división clásica separa lo discriminativo de lo generativo. Un modelo discriminativo aprende directamente la frontera entre clases, esto es, la probabilidad condicional P(y|x): la regresión logística es el caso de manual. Un modelo generativo aprende cómo se generan los datos —la distribución conjunta P(x,y), o P(x)— y de ahí deriva sus decisiones; el clasificador naive Bayes es el ejemplo histórico, y los grandes generadores actuales de texto e imagen son sus herederos a otra escala. Fuente primaria.

Todos los modelos son simplificaciones

Un modelo nunca es la realidad, sino una versión idealizada de ella. La utilidad depende del ajuste (fit). Un modelo infraajustado es demasiado simple y no captura el patrón ni siquiera en los datos de entrenamiento; uno sobreajustado memoriza el ruido de esos datos y falla ante ejemplos nuevos. El equilibrio entre ambos extremos es la generalización: la capacidad real de acertar sobre datos que el modelo no vio, que es lo único que importa cuando sale del laboratorio. Fuente primaria.

Del modelo al despliegue

Entrenar un modelo es solo la mitad del trabajo. Una vez fijados sus parámetros, se evalúa con datos reservados, se despliega para hacer inferencia y se vigila su comportamiento, que puede degradarse cuando la realidad se aleja de los datos con que aprendió.