Sobes.tech
Middle

Quais modelos minimizam o viés e quais a variância, comparando boosting e bagging?

sobes.tech IA

Resposta da IA

Bagging e boosting são métodos de ensemble que afetam de forma diferente o bias (viés) e a variância (dispersão) do modelo.

  • Bagging (por exemplo, floresta aleatória) reduz principalmente a variância. Constrói múltiplos modelos em diferentes subconjuntos de dados com substituição e média suas previsões, o que reduz o sobreajuste e a dispersão, mas não afeta muito o bias.

  • Boosting (por exemplo, AdaBoost, Gradient Boosting) visa reduzir o bias. Treina modelos sequencialmente, cada um corrigindo os erros dos anteriores, permitindo criar modelos mais complexos e reduzir o erro sistemático, mas pode aumentar a variância se exagerar.

Resumindo:

Método Minimiza o bias Minimiza a variância
Bagging Moderadamente Sim
Boosting Sim Pode aumentar