Modelin nəyə əsaslandığını necə yoxlamaq olar?

Qərar qəbul edilərkən modelin əsaslandığı nöqtəni anlamaq üçün modellərin şərh edilə bilmə metodları istifadə olunur. Məsələn:

• Feature Importance — hansı xüsusiyyətlərin proqnozlara ən çox təsir etdiyini göstərir.
• SHAP (SHapley Additive exPlanations) — hər bir xüsusiyyətin konkret proqnozdakı töhfəsini izah edir.
• LIME (Local Interpretable Model-agnostic Explanations) — modeli lokal olaraq sadə və şərh edilə bilən model ilə yaxınlaşdırır.

Python üçün SHAP istifadə nümunəsi:

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Bu yolla, modelin çıxışına təsir edən xüsusiyyətləri və onların təsir dərəcəsini vizual və kəmiyyətcə qiymətləndirmək mümkündür.