Co jsou EFB a GOSS v LightGBM?

V LightGBM jsou EFB (Exclusive Feature Bundling) a GOSS (Gradient-based One-Side Sampling) dvě techniky optimalizace, které zlepšují výkon a rychlost učení modelu.

• EFB (Exkluzivní seskupování vlastností): metoda, která slučuje vzájemně vylučující se vlastnosti do jedné, aby snížila rozměr dat a urychlila učení. Například pokud dvě vlastnosti nikdy nezaujímají nenulové hodnoty současně, lze je sloučit do jedné, zachovávající informace, ale s menším počtem vlastností.

• GOSS (Gradient-based One-Side Sampling): technika výběru podmnožiny dat pro učení, při níž jsou zachovány všechny příklady s velkými gradienty (tedy ty, na kterých se model více mýlí), a z příkladů s malými gradienty je náhodně vybrána vzorka. To umožňuje zaměřit se na složité příklady a urychlit učení bez významné ztráty kvality.

Obě techniky pomáhají LightGBM efektivně pracovat s velkými a řídkými tabulkovými daty, zlepšují rychlost a kvalitu boostingu.