Bagging nedir ve neden modeli varyansını azaltır?

Bagging (Bootstrap Aggregating), modellerin topluluk yöntemidir ve eğitim örnekleri, bootstrap (orijinal verilerden geri dönüşlü rastgele örnekleme) kullanılarak oluşturulur. Her örnek için ayrı bir model eğitilir ve tüm modellerin sonuçlarının ortalaması (regresyon için) veya oylaması (sınıflandırma için) ile nihai tahmin elde edilir.

Bagging’in varyansı azaltmasının nedeni:

• Her model, biraz farklı veriler üzerinde eğitildiği için modellerin hataları tamamen korele değildir.
• Sonuçların ortalaması, bireysel modellerin rastgele hatalarının etkisini azaltır.
• Sonuç olarak, topluluk aşırı uyum ve gürültüye karşı daha dayanıklı hale gelir.

Bu şekilde, bagging modelin varyansını azaltır, istikrarını ve genelleme kabiliyetini artırır.