O que acontece se aplicar bagging a algoritmos lineares?

A aplicação de bagging (bootstrap aggregating) a algoritmos lineares geralmente não leva a uma melhoria significativa no desempenho. Isso ocorre porque os modelos lineares, geralmente, têm baixa variância e alto viés. O bagging é eficaz para modelos com alta variância (por exemplo, árvores de decisão), pois reduz a variabilidade através da média.

Ao aplicar bagging a modelos lineares:

• A média de modelos treinados em diferentes subconjuntos não reduz muito o erro.
• Pode aumentar ligeiramente a resistência ao ruído, mas o ganho geralmente não é significativo.

Portanto, para algoritmos lineares, geralmente são utilizados outros métodos de melhoria, como regularização ou seleção de características, e o bagging é aplicado a modelos mais complexos e instáveis.