O que é bagging e por que ele reduz a variância do modelo?

Bagging (Bootstrap Aggregating) é um método de ensemble de modelos, no qual são criadas múltiplas amostras de treino usando bootstrap (amostragem aleatória com reposição dos dados originais). Para cada amostra, um modelo separado é treinado, e a previsão final é obtida pela média (para regressão) ou votação (para classificação) dos resultados de todos os modelos.

Por que o bagging reduz a variância:

• Cada modelo é treinado com dados ligeiramente diferentes, portanto os erros dos modelos não estão totalmente correlacionados.
• A média dos resultados reduz a influência de erros aleatórios de modelos individuais.
• Como resultado, o ensemble torna-se mais resistente ao overfitting e ao ruído nos dados.

Dessa forma, o bagging reduz a dispersão (variância) do modelo, aumentando sua estabilidade e capacidade de generalização.