Bagging nədir və niyə modelin varyansını azaldır?

Bagging (Bootstrap Aggregating) — bu modellərin ansambl metodudur və burada çoxsaylı təlim nümunələri bootstrap (orijinal məlumatlardan təsadüfi nümunə ilə geri qaytarma) istifadə edilərək yaradılır. Hər nümunə üçün ayrı bir model öyrədilir və yekun proqnoz bütün modellərin nəticələrinin ortalaması (regressiya üçün) və ya səs çoxluğu (sinifləndirmə üçün) ilə əldə edilir.

Niyə bagging varyansı azaldır:

• Hər model azca fərqli məlumatlar üzərində öyrədilir, buna görə modellərin səhvləri tamamilə əlaqəli deyil.
• Nəticələrin ortalaması fərdi modellərin təsadüfi səhvlərinin təsirini azaldır.
• Nəticədə, ansambl artıq öyrənmə və məlumatlardakı səs-küyə qarşı daha davamlı olur.

Beləliklə, bagging modelin dispersiyasını (varyansını) azaldır, onun stabilliyini və ümumiləşdirmə qabiliyyətini artırır.