Ի՞նչ է bagging-ը և ինչու է այն նվազեցնում մոդելի փոփոխականությունը։

Bagging (Bootstrap Aggregating) — մոդելների հավաքական մեթոդ է, որի ժամանակ ստեղծվում են մի քանի ուսուցման նմուշներ bootstrap-ով (առաջին տվյալներից պատահական նմուշառում հետադարձմամբ): Յուրաքանչյուր նմուշի համար ուսուցանվում է առանձին մոդել, իսկ վերջնական կանխատեսումը ստացվում է բոլոր մոդելների արդյունքների միջինից (ռեգրեսիայի համար) կամ քվեարկությունից (կատեգորիզացիայի համար):

Ինչու է bagging նվազեցնում տարբերությունը:

• Յուրաքանչյուր մոդել ուսուցանվում է փոքր-ինչ տարբեր տվյալների վրա, հետևաբար մոդելների սխալները չեն ամբողջությամբ կապված:
• Արդյունքների միջինացումը նվազեցնում է առանձին մոդելների պատահական սխալների ազդեցությունը:
• Արդյունքում, հավաքականը դառնում է ավելի դիմացկուն ավելորդ ուսուցման և աղմուկի նկատմամբ տվյալներում:

Այսպիսով, bagging նվազեցնում է մոդելի տարբերությունը (variance), բարձրացնում է նրա կայունությունը և ընդհանուր գեներալիզացիայի կարողությունը։