¿Qué sucede si aplicamos bagging a algoritmos lineales?

La aplicación de bagging (bootstrap aggregating) a algoritmos lineales generalmente no conduce a una mejora significativa en el rendimiento. Esto se debe a que los modelos lineales, por lo general, tienen baja varianza y alto sesgo. El bagging es efectivo para modelos con alta varianza (por ejemplo, árboles de decisión), ya que reduce la variabilidad mediante el promediado.

Al aplicar bagging a modelos lineales:

• El promediado de modelos entrenados en diferentes subconjuntos no reduce mucho el error.
• Puede aumentar ligeramente la resistencia al ruido, pero la ganancia suele ser insignificante.

Por lo tanto, para algoritmos lineales, se suelen usar otros métodos de mejora, como la regularización o la selección de características, y el bagging se aplica a modelos más complejos e inestables.