რა არის target encoding და რა პრობლემები აქვს (overfitting, leakage)?

მიზნობრივი კოდირება — ეს არის კატეგორიული თვისებების კოდირების მეთოდი, სადაც თითოეულ კატეგორიას მიენიჭება ციფრული მნიშვნელობა, რომელიც ეფუძნება მიზნობრივი ცვლადის სტატისტიკას (მაგალითად, ამ კატეგორიისთვის მიზნის საშუალო მნიშვნელობა).

უპირატესობები:

• საშუალებას აძლევს ეფექტურად გამოიყენოს კატეგორიული თვისებები მათ მოდელებში, რომლებიც მუშაობენ რიცხვით მონაცემებთან.
• შეიძლება გაუმჯობესდეს მოდელის ხარისხი, განსაკუთრებით როდესაც კატეგორიების რაოდენობა დიდია.

პრობლემები:

• Overfitting (მეტისმეტად მორგება): თუ გამოიყენება მთელი ტრენინგის ნაკრების მიზნის საშუალო, მოდელი შეიძლება გახსოვდეს კონკრეტული მნიშვნელობები, რაც ამცირებს მისი ზოგადსაკანონმდებლო უნარს.
• Leakage (მონაცემთა გაჟონვა): როდესაც მთლიანი ნაკადის მიხედვით ხდება მიზნის სტატისტიკის გამოთვლა, ხდება ინფორმაციის გაჟონვა მიზნიდან თვისებებში, რაც ირღვევა მოდელის შეფასებას.

როგორ თავიდან ავიცილოთ პრობლემები:

• გამოიყენეთ კროსსვალიდაცია ან სმუთინგი მიზნობრივი კოდირების გამოთვლაში.
• გამოიყენეთ რეგულარიზაციის მეთოდები, მაგალითად, შორინების დამატება ან გლობალური საშუალო გამოყენება.

სმუთინგული მიზნობრივი კოდირების მაგალითი:

# პსევდოკოდი
თითოეულ კატეგორიაზე:
    კოდირებული მნიშვნელობა = (კატეგორიის მიზნის ჯამი + გლობალური საშუალო * სმუთინგი) / (კატეგორიის რაოდენობა + სმუთინგი)

ასე, მიზნობრივი კოდირება არის ძლიერი ინსტრუმენტი, მაგრამ საჭიროებს ყურადღებით გამოყენებას, რათა თავიდან აიცილოს მეტისმეტად მორგება და მონაცემთა გაჟონვა.