LightGBM'da EFB va GOSS nima?

LightGBM da, EFB (Exclusive Feature Bundling) va GOSS (Gradient-based One-Side Sampling) modellarning ishlashini va o'qitish tezligini yaxshilaydigan ikki texnikadir.

• EFB (Eksklyuziv Xususiyatlarni Birlashtirish): bir-birini rad etadigan xususiyatlarni bitta qilib birlashtirish usuli, bu ma'lumotlarning o'lchamligini kamaytiradi va o'qitishni tezlashtiradi. Masalan, agar ikki xususiyat hech qachon bir vaqtning o'zida nol bo'lmagan qiymatlarni olmasa, ularni birlashtirish mumkin, ma'lumotni saqlab qolgan holda, xususiyatlar sonini kamaytiradi.

• GOSS (Gradient-based One-Side Sampling): o'qitish uchun ma'lumotlarning kichik to'plamini tanlash texnikasi, bunda katta gradientlarga ega barcha misollar (ya'ni, model ko'proq xato qiladiganlar) saqlanadi, va kichik gradientlarga ega misollardan tasodifiy tanlov olinadi. Bu qiyin misollarga e'tibor qaratishga va sifatni sezilarli darajada yo'qotmasdan o'qitishni tezlashtirishga imkon beradi.

Ikkala texnika ham LightGBM ning katta va bo'sh tabular ma'lumotlar bilan samarali ishlashiga yordam beradi, tezlik va sifatni oshiradi.