¿Qué es el bagging y por qué reduce la varianza del modelo?

Bagging (Bootstrap Aggregating) es un método de ensamblaje de modelos en el que se crean múltiples muestras de entrenamiento mediante bootstrap (muestreo aleatorio con reemplazo de los datos originales). Para cada muestra, se entrena un modelo separado, y la predicción final se obtiene promediando (para regresión) o votando (para clasificación) los resultados de todos los modelos.

Por qué el bagging reduce la varianza:

• Cada modelo se entrena con datos ligeramente diferentes, por lo que los errores de los modelos no están completamente correlacionados.
• El promediado de los resultados reduce la influencia de errores aleatorios de modelos individuales.
• Como resultado, el ensamblaje se vuelve más resistente al sobreajuste y al ruido en los datos.

De esta manera, el bagging reduce la dispersión (varianza) del modelo, aumentando su estabilidad y capacidad de generalización.