Sobes.tech
Middle — Senior

Čo sú EFB a GOSS v LightGBM?

sobes.tech AI

Odpoveď od AI

V LightGBM sú EFB (Exclusive Feature Bundling) a GOSS (Gradient-based One-Side Sampling) dve techniky optimalizácie, ktoré zlepšujú výkon a rýchlosť učenia modelu.

  • EFB (Exkluzívne zoskupovanie vlastností): metóda, ktorá spája navzájom vylučujúce sa vlastnosti do jednej, aby znížila rozmernosť dát a urýchlila učenie. Napríklad, ak dve vlastnosti nikdy nezaujímajú nenulové hodnoty súčasne, môžu byť zlúčené do jednej, zachovávajúc informácie, ale znižujúc počet vlastností.

  • GOSS (Gradient-based One-Side Sampling): technika výberu podmnožiny dát na učenie, pri ktorej sa zachovajú všetky príklady s veľkými gradientmi (teda tie, na ktorých sa model viac mýli), a z príkladov s malými gradientmi sa náhodne vyberie vzorka. To umožňuje zamerať sa na ťažké príklady a urýchliť učenie bez významnej straty kvality.

Obe techniky pomáhajú LightGBM efektívne pracovať s veľkými a riedkymi tabuľkovými dátami, zlepšujúc rýchlosť a kvalitu boostingu.