Hədəf kodlaşdırması nədir və onun problemləri hansılardır (overfitting, leakage)?

Hədəf kodlaşdırması, hər bir kateqorik xüsusiyyətə, məqsəd dəyişəninin statistikalarına əsaslanan ədədi dəyər təyin edən metodudur (məsələn, bu kateqoriya üçün məqsədin orta dəyəri).

Üstünlüklər:

• Rəqəmsal məlumatlarla işləyən modellərdə kateqorik xüsusiyyətlərin effektiv istifadəsinə imkan verir.
• Xüsusilə çox sayda kateqoriya olduqda modelin keyfiyyətini yaxşılaşdıra bilər.

Problemlər:

• Overfitting (həddindən artıq uyğunlaşma): Əgər bütün təlim nümunələri üçün məqsədin ortalaması istifadə olunursa, model müəyyən dəyərləri yadda saxlayaraq ümumiləşdirmə qabiliyyətini azalda bilər.
• Leakage (məlumat sızması): Bütün nümunələr üçün məqsəd statistikası hesablandıqda, məlumatların sızması baş verir və modelin qiymətləndirilməsi pozulur.

Problemlərin qarşısını almaq üçün:

• Hədəf kodlaşdırmasını hesablamaq üçün kross-validasiya və ya yumşaltma metodlarından istifadə edin.
• Səs-küy əlavə etmək və ya qlobal orta dəyərdən istifadə kimi tənzimləmə metodlarını tətbiq edin.

Yumşaldılmış hədəf kodlaşdırma nümunəsi:

# Pseudokod
hər kateqoriya üçün:
    kodlaşdırılmış dəyər = (kateqoriya içindəki məqsədin cəmisi + qlobal orta * yumşaltma) / (kateqoriya içindəki say + yumşaltma)

Beləliklə, hədəf kodlaşdırması güclü alətdir, lakin düzgün istifadə olunmazsa, həddindən artıq uyğunlaşma və məlumat sızması riskini artırır.