Bagging nima va nima uchun u modelning variansini kamaytiradi?

Bagging (Bootstrap Aggregating) — bu modellarning ansambl usulidir, bunda o‘quv namunalarining ko‘p nusxasi bootstrap (tasodifiy namunalar bilan orqaga qaytarish) yordamida yaratiladi. Har bir namunaga alohida model o‘qitiladi va yakuniy prognoz barcha modellarning natijalarini o‘rtacha olish (regressiya uchun) yoki ovoz berish (klassifikatsiya uchun) orqali olinadi.

Bagging nima uchun variansni kamaytiradi:

• Har bir model biroz turli ma’lumotlar asosida o‘qitiladi, shuning uchun modellarning xatolari to‘liq korelatsiyalanmagan.
• Natijalarni o‘rtacha qilish, individual modellarning tasodifiy xatolarining ta’sirini kamaytiradi.
• Natijada, ansambl overfitting va ma’lumotlardagi shovqinni yanada chidamli bo‘ladi.

Shu tarzda, bagging modelning dispersiyasini (variansini) kamaytiradi, uning barqarorligi va umumlashtirish qobiliyatini oshiradi.