Sobes.tech
Middle — Senior

LightGBM-деги EFB жана GOSS эмнелер?

sobes.tech AI

AIден жооп

LightGBM-де, EFB (Exclusive Feature Bundling) жана GOSS (Gradient-based One-Side Sampling) моделдин иштешин жана үйрөнүү ылдамдыгын жакшырткан эки оптималдаштыруу технологиясы.

  • EFB (Эксклюзивдүү өзгөчөлүктөрдү топтоо): өз ара ажыратылган өзгөчөлүктөрдү бириктирүү ыкмасы, маалыматтын өлчөмүн кыскартуу жана үйрөнүүнү тездетүү үчүн. Мисалы, эгер эки өзгөчөлүк бир убакта нөлдөн башка маанилерди албаса, аларды бириктирүүгө болот, маалыматты сактап калуу менен, бирок өзгөчөлүктөрдүн санын азайтуу.

  • GOSS (Gradient-based One-Side Sampling): үйрөнүү үчүн маалыматтын субжыйнагын тандоо ыкмасы, анда чоң градиенттерге ээ бардык мисалдар сакталат (демек, модел көбүрөөк каталарга дуушар болгон учурлар), жана кичинекей градиенттерге ээ мисалдардан кездейсө таңдоо алынып, үйрөнүүнү тездетет. Бул кыйын мисалдарга көңүл бурууга жана сапатты жоготпостон үйрөнүүнү жеделдетүүгө мүмкүндүк берет.

Эки техника да LightGBM чоң жана сейрек таблицалык маалыматтар менен иштөөдө натыйжалуу жардам берет, ылдамдыкты жана буустинг сапатын жакшыртат.