LightGBM-ში EFB და GOSS რა არის?
sobes.tech AI
პასუხი AI-სგან
LightGBM-ში, EFB (Exclusive Feature Bundling) და GOSS (Gradient-based One-Side Sampling) ორი ოპტიმიზაციის ტექნიკაა, რომლებიც აუმჯობესებენ მოდელის შესრულებას და სწავლების სიჩქარეს.
-
EFB (გამონაკლისი თვისებების გაერთიანება): მეთოდი, რომელიც აერთიანებს ურთიერთგამორიცხულ თვისებებს ერთში, რათა შემცირდეს მონაცემების ზომა და გაადვილოს სწავლება. მაგალითად, თუ ორი თვისება არასდროს იღებს ნულოვან მნიშვნელობებს ერთდროულად, ისინი შეიძლება გაერთიანდეს ერთში, ინფორმაციის შენარჩუნებით, მაგრამ თვისებების რაოდენობის შემცირებით.
-
GOSS (გრადიენტზე დაფუძნებული ერთგვარი სემპლირება): ტექნიკა მონაცემთა ქვეგანყოფილების შერჩევისთვის, სადაც ინახება ყველა დიდი გრადიენტით მიცემული მაგალითი (ანუ, სადაც მოდელი მეტ შეცდომას უშვებს), ხოლო მცირე გრადიენტით მიცემული მაგალითებიდან შემთხვევით შერჩევა ხდება. ეს საშუალებას აძლევს ყურადღება მიაქციოს რთულ მაგალითებს და გაადვილოს სწავლება ხარისხის მნიშვნელოვანი დანაკარგის გარეშე.
ორივე ტექნიკა ეხმარება LightGBM-ს ეფექტურად მუშაობაში დიდ და სუსტი სია მონაცემებთან, გაუმჯობესებს სიჩქარეს და ბუსტინგის ხარისხს.