Kas ir EFB un GOSS LightGBM?

LightGBM ir ir EFB (Exclusive Feature Bundling) un GOSS (Gradient-based One-Side Sampling) ir divas optimizācijas tehnikas, kas uzlabo modeļa veiktspēju un mācīšanās ātrumu.

• EFB (Ekskluzīvu īpašību apvienošana): metode, kas apvieno savstarpēji izslēdzošas īpašības vienā, lai samazinātu datu dimensionalitāti un paātrinātu mācīšanos. Piemēram, ja divas īpašības nekad vienlaikus neņem nenulles vērtības, tās var apvienot vienā, saglabājot informāciju, bet samazinot īpašību skaitu.

• GOSS (Gradient-based One-Side Sampling): tehnika datu apakškopa izvēlei mācībai, kurā tiek saglabāti visi piemēri ar lieliem gradientiem (tas ir, tie, kuros modelis kļūdās vairāk), un no maziem gradientiem tiek nejauši izvēlēts paraugs. Tas ļauj koncentrēties uz grūtajiem piemēriem un paātrināt mācīšanos bez būtiskas kvalitātes zuduma.

Abas tehnikas palīdz LightGBM efektīvi strādāt ar lieliem un retajiem tabulāriem datiem, uzlabojot ātrumu un boosting kvalitāti.