Ce modele minimizează bias-ul și care varianța, comparând boosting și bagging?

Bagging și boosting sunt metode de ansamblu care influențează diferit bias-ul (eroarea sistematică) și varianta (dispersia) modelului.

• Bagging (de exemplu, pădure aleatorie) reduce în primul rând varianta. Construiește multiple modele pe subeșantioane diferite de date cu înlocuire și face media predicțiilor lor, reducând supraînvățarea și dispersia, dar nu afectează semnificativ bias-ul.

• Boosting (de exemplu, AdaBoost, Gradient Boosting) are ca scop reducerea bias-ului. Antrenează modele secvențial, fiecare corectând erorile celor anterioare, ceea ce permite crearea unor modele mai complexe și reducerea erorii sistematice, dar poate crește varianta dacă se exagerează.

Pe scurt:

Metodă	Minimizează bias-ul	Minimizează varianta
Bagging	Moderat	Da
Boosting	Da	Poate crește