AutoML-ի բացատրելիության տեսանկյունից ինչ ռիսկեր կան?

AutoML-ի հիմնական ռիսկերն ըստ մեկնաբանելիության տեսանկյունից՝

• Մոդելների բարդություն: AutoML-ը հաճախ ընտրում է բարդ հավաքականներ կամ խորը մոդելներ, որոնք դժվար է մեկնաբանել:
• Թափանցիկության բացակայություն: Ավտոմատ հիպերպարամետրերի և ճարտարապետությունների ընտրությունը կարող է հանգեցնել մոդելների, որոնց տրամաբանությունը օգտվողին անհասկանալի է:
• Բացատրելիության խնդիրներ: Ստանդարտ մեկնաբանման մեթոդները (օրինակ, SHAP, LIME) կարող են ավելի վատ աշխատել կամ ավելի քիչ տեղեկատվական լինել AutoML-ի ստեղծած մոդելների համար:
• Կորուստ վերահսկողության: Օգտվողը միշտ չէ, որ հասկանում է, թե ինչու AutoML-ը հենց այդ մոդելը ընտրեց, ինչը դժվարացնում է վստահությունը և սխալների հայտնաբերում:

Ռիսկերը նվազեցնելու համար խորհուրդ է տրվում օգտագործել AutoML-ը մեկնաբանման գործիքների հետ միասին և սահմանափակել մոդելների բարդությունը, եթե կարևոր է թափանցիկությունը։