Čo sú EFB a GOSS v LightGBM?
sobes.tech AI
Odpoveď od AI
V LightGBM sú EFB (Exclusive Feature Bundling) a GOSS (Gradient-based One-Side Sampling) dve techniky optimalizácie, ktoré zlepšujú výkon a rýchlosť učenia modelu.
-
EFB (Exkluzívne zoskupovanie vlastností): metóda, ktorá spája navzájom vylučujúce sa vlastnosti do jednej, aby znížila rozmernosť dát a urýchlila učenie. Napríklad, ak dve vlastnosti nikdy nezaujímajú nenulové hodnoty súčasne, môžu byť zlúčené do jednej, zachovávajúc informácie, ale znižujúc počet vlastností.
-
GOSS (Gradient-based One-Side Sampling): technika výberu podmnožiny dát na učenie, pri ktorej sa zachovajú všetky príklady s veľkými gradientmi (teda tie, na ktorých sa model viac mýli), a z príkladov s malými gradientmi sa náhodne vyberie vzorka. To umožňuje zamerať sa na ťažké príklady a urýchliť učenie bez významnej straty kvality.
Obe techniky pomáhajú LightGBM efektívne pracovať s veľkými a riedkymi tabuľkovými dátami, zlepšujúc rýchlosť a kvalitu boostingu.