Šta su EFB i GOSS u LightGBM?

U LightGBM, EFB (Exclusive Feature Bundling) i GOSS (Gradient-based One-Side Sampling) su dve tehnike optimizacije koje poboljšavaju performanse i brzinu obuke modela.

• EFB (Ekskluzivno spajanje karakteristika): metoda koja kombinuje međusobno isključujuće karakteristike u jednu, kako bi smanjila dimenzionalnost podataka i ubrzala obuku. Na primer, ako dve karakteristike nikada ne preuzimaju različite od nule vrednosti istovremeno, mogu se spojiti u jednu, zadržavajući informacije, ali smanjujući broj karakteristika.

• GOSS (Gradient-based One-Side Sampling): tehnika odabira podskupa podataka za obuku, pri čemu se čuvaju svi primeri sa velikim gradijentima (tj. oni na kojima model greši više), a iz primera sa malim gradijentima se uzima slučajni uzorak. Ovo omogućava fokusiranje na teže primere i ubrzava obuku bez značajnog gubitka kvaliteta.

Obe tehnike pomažu LightGBM-u da efikasno radi sa velikim i retkim tabelarnim podacima, poboljšavajući brzinu i kvalitet boostinga.