¿Cuál es el compromiso entre el subentrenamiento y el sobreentrenamiento?

El compromiso entre el subajuste (underfitting) y el sobreajuste (overfitting) es un equilibrio entre un modelo demasiado simple y uno demasiado complejo.

• Subajuste ocurre cuando el modelo es demasiado simple y no puede captar las patrones en los datos. Como resultado, funciona mal tanto en los datos de entrenamiento como en los nuevos.

• Sobreajuste surge cuando el modelo es demasiado complejo y memoriza el ruido y las características aleatorias de los datos de entrenamiento, lo que empeora su capacidad de generalización a nuevos datos.

El compromiso se logra seleccionando un modelo y parámetros que sean lo suficientemente complejos para capturar dependencias importantes, pero no tan complejos que memoricen el ruido. Para ello, se utilizan métodos de regularización, validación cruzada y ajuste de hiperparámetros.

Ejemplo: si tienes un modelo de regresión demasiado simple (por ejemplo, lineal en una dependencia compleja), estará subajustado, y si es demasiado complejo (por ejemplo, un polinomio de alto grado), estará sobreajustado.