AutoML-in izah ediləbilərliyi baxımından riskləri hansılardır?

AutoML-nin şərh edilə bilmə baxımından əsas riskləri:

• Modelin mürəkkəbliyi: AutoML tez-tez mürəkkəb ansamblər və ya dərin modellər seçir ki, bunların şərh edilməsi çətindir.
• Şəffaflığın olmaması: Avtomatik hiperparametr və memarlıq seçimi istifadəçi üçün anlaşılmaz modellərə səbəb ola bilər.
• İzah edilə bilmə problemləri: Standart şərh metodları (məsələn, SHAP, LIME) AutoML tərəfindən yaradılan modellər üçün daha pis işləyə və ya daha az məlumat verə bilər.
• Nəzarətin itirilməsi: İstifadəçi hər zaman niyə AutoML-in bu modeli seçdiyini anlamaya bilər, bu da güvən və səhv ayıklamayı çətinləşdirir.

Riskləri azaltmaq üçün, AutoML ilə birlikdə şərh vasitələrindən istifadə etmək və şəffaflıq vacibdirsə modellərin mürəkkəbliyini məhdudlaşdırmaq tövsiyə olunur.