Čo sa stane, ak aplikujeme bagging na lineárne algoritmy?

Použitie baggingu (bootstrap aggregating) na lineárne algoritmy zvyčajne nevedie k významnému zlepšeniu výkonu. To je spôsobené tým, že lineárne modely majú zvyčajne nízku variabilitu a vysoké skreslenie. Bagging je účinný pre modely s vysokou variabilitou (napríklad rozhodovacie stromy), pretože znižuje variabilitu priemerním.

Pri použití baggingu na lineárne modely:

• Priemerná hodnota modelov trénovaných na rôznych podmnožinách neznižuje výrazne chybu.
• Môže mierne zvýšiť odolnosť voči šumu, ale zisk je zvyčajne nepatrný.

Preto sa pri lineárnych algoritmoch často používajú iné metódy zlepšenia, ako je regularizácia alebo výber vlastností, a bagging sa aplikuje na zložitejšie, nestabilnejšie modely.