Qərar ağacının qurulmasında hansı məlumatlandırma meyarları istifadə olunur?

Qərar ağacının qurulmasında, məlumatların hər bir düyündə ən yaxşı xüsusiyyəti seçməyə kömək edən məlumat meyarları var. Əsas meyarlar:

• İnformasiya entropiyası və məlumat qazancı (Information Gain): bölmədən sonra qeyri-müəyyənliyi azaldır. Məlumat qazancı nə qədər çox olarsa, xüsusiyyət məlumatları o qədər yaxşı ayırır.

• Gini kriteriyası (Gini Impurity): təsadüfi seçilmiş obyekti düzgün təsnif etmə ehtimalını qiymətləndirir. Dəyər nə qədər aşağı olarsa, ayırma o qədər yaxşıdır.

• Məlumat qazancının nisbəti (Gain Ratio): məlumat qazancının dəyişməsi, çox dəyərə malik xüsusiyyətlərə qarşı meylin qarşısını almaq üçün şaxələrin sayını nəzərə alır.

• Xəta kriteriyası (Misclassification Error): bölmədən sonra yanlış təsnif edilən obyektlərin nisbəti.

Kriteriyanın seçimi vəzifə və alqoritmindən asılıdır (məsələn, ID3 məlumat entropiyasını istifadə edir, CART Gini kriteriyasını istifadə edir).