¿Qué son el sesgo y la varianza en un modelo?

El sesgo (bias) y la varianza (dispersión) son dos conceptos clave que describen los errores de un modelo de aprendizaje automático.

• Bias (sesgo): es un error que surge debido a un modelo demasiado simple, que no puede describir bien los datos. Un modelo con alto sesgo está subentrenado (underfitting) y predice mal tanto en los datos de entrenamiento como en los nuevos.

• Varianza (dispersión): es un error relacionado con la sensibilidad del modelo al ruido en los datos de entrenamiento. Un modelo con alta varianza se sobreentrena (overfitting), funciona bien en los datos de entrenamiento, pero generaliza mal a nuevos datos.

El equilibrio entre sesgo y varianza es importante para un buen modelo. Generalmente, al aumentar la complejidad del modelo, el sesgo disminuye y la varianza aumenta.

Ejemplo:

• Una regresión lineal simple puede tener un sesgo alto si los datos son no lineales.
• Un modelo complejo, como una red neuronal profunda, puede tener un sesgo bajo, pero una alta varianza si se sobreentrena en los datos de entrenamiento.