Sobes.tech
Middle — Senior

Ի՞նչ են EFB և GOSS-ը LightGBM-ում։

sobes.tech AI

Պատասխան AI-ից

LightGBM-ում EFB (Exclusive Feature Bundling) և GOSS (Gradient-based One-Side Sampling) երկու օպտիմալացման տեխնիկա են, որոնք բարելավում են մոդելի կատարողականությունը և ուսուցման արագությունը:

  • EFB (Հատուկ հատկությունների միավորում)՝ մեթոդ, որը միավորում է փոխադարձ բացառող հատկությունները մեկում՝ տվյալների չափը նվազեցնելու և ուսուցումը արագացնելու համար։ Օրինակ, եթե երկու հատկությունները երբեք միաժամանակ չեն ընդունում զրոյից տարբեր արժեքներ, դրանք կարելի է միացնել մեկում՝ պահպանելով տեղեկատվությունը, բայց նվազեցնելով հատկությունների թիվը։

  • GOSS (Գրադիենտային միակ կողմի սեմպլավորում)՝ տվյալների ենթակազմի ընտրության տեխնիկա, որտեղ պահվում են բոլոր մեծ գրադիենտներով օրինակները (այսինքն՝ այնպիսիք, որոնց վրա մոդելը ավելի շատ սխալվում է), իսկ փոքր գրադիենտներով օրինակներից պատահական նմուշ է վերցվում։ Սա թույլ է տալիս կենտրոնանալ բարդ օրինակների վրա և արագացնել ուսուցումը առանց որակի զգալի կորուստի։

Երկու տեխնիկան օգնում են LightGBM-ին արդյունավետ աշխատել մեծ և բարակ տախտակային տվյալների հետ՝ բարելավելով արագությունը և բուոստինգի որակը։