Mi az EFB és GOSS a LightGBM-ben?

A LightGBM-ben az EFB (Exclusive Feature Bundling) és a GOSS (Gradient-based One-Side Sampling) két olyan optimalizációs technika, amelyek javítják a modell teljesítményét és tanulási sebességét.

• EFB (Kizárólagos Jellemzők Csomagolása): módszer, amely összefogja egymást kizáró jellemzőket egybe, hogy csökkentse az adatok dimenzióját és felgyorsítsa a tanulást. Például, ha két jellemző soha nem vesz fel nem null értékeket egyszerre, összevonhatók egybe, megőrizve az információt, de csökkentve a jellemzők számát.

• GOSS (Gradient-alapú Egysíkú Mintavétel): technika az adatok kiválasztására a tanuláshoz, ahol minden nagy gradienssel rendelkező példányt megtartanak (azaz, ahol a modell nagyobb hibát követ el), és véletlenszerű mintát vesznek a kis gradiensű példányokból. Ez lehetővé teszi, hogy a nehéz példákra összpontosítson, és felgyorsítsa a tanulást anélkül, hogy jelentős minőségromlást okozna.

Mindkét technika segít a LightGBM-nek hatékonyan működni nagy és ritka táblázatos adatokkal, javítva a gyorsaságot és a boosting minőségét.