Hansı modellər bias-ı minimallaşdırır və hansı varyansı, boosting və bagging müqayisə edərkən?

Bagging və boosting, fərqli şəkildə modelin bias (sistematik səhv) və variance (yayılma) üzərində təsir göstərən ansambl metodlarıdır.

• Bagging (məsələn, təsadüfi meşə) əsasən variance-i azaldır. O, müxtəlif məlumat alt dəstələrində çoxsaylı modellər qurur və onların proqnozlarını orta hesabla çıxarır, bu da aşırı uyğunlaşmanı və yayılmanı azaldır, lakin bias üzərində çox təsiri yoxdur.

• Boosting (məsələn, AdaBoost, Gradient Boosting) bias-ı azaltmağa yönəlib. O, ardıcıl modellər öyrədir, hər biri əvvəlkilərin səhvlərini düzəldir, bu da daha mürəkkəb modellər yaratmağa və sistematik səhvi azaltmağa imkan verir, lakin çox edilərsə variance-i artıra bilər.

Qısa olaraq:

Metod	Bias-ı minimallaşdırır	Variance-ı azaldır
Bagging	Orta səviyyədə	Bəli
Boosting	Bəli	Artıra bilər