Čo je stacking a blending? Ako sa vyhnúť leakage v stacking?

Stacking a blending sú metódy ansámblovania modelov, ktoré umožňujú zlepšiť kvalitu predpovedí kombinovaním viacerých modelov.

• Stacking znamená trénovanie meta-modelu na výstupoch základných modelov. Proces zvyčajne zahŕňa:

  1. Tréning viacerých základných modelov na tréningových dátach.
  2. Získanie predpovedí týchto modelov na validačných dátach (krížová validácia).
  3. Tréning meta-modelu na týchto predpovediach.

• Blending je podobný stacking, ale meta-model sa trénuje na samostatnom holdout sete dát, nie na predpovediach z krížovej validácie.

Leakage (únik dát) pri stackingu nastáva, ak sa meta-model trénuje na predpovediach základných modelov, ktoré boli získané na tých istých dátach, na ktorých boli tieto modely trénované. To vedie k pretrénovaniu a nadhodnoteniu kvality.

Aby ste zabránili leakage:

• Použite krížovú validáciu na generovanie predpovedí základných modelov na dátach, ktoré neboli použité pri ich tréningu.
• Pre každý fold trénujte základné modely na tréningovej časti a predpovedajte na validačnej.
• Zhromaždite predpovede pre celý tréningový set tak, aby žiadny bod nebol predpovedaný modelom trénovaným na tom istom bode.

Toto zabezpečuje, že meta-model sa učí na čestných predpovediach, a nie na pretrénovaní.