Koji su rizici AutoML-a sa stanovišta interpretabilnosti?

Glavni rizici AutoML-a sa aspekta interpretabilnosti:

• Složenost modela: AutoML često bira složene ansamble ili duboke modele koji su teško interpretirati.
• Nedostatak transparentnosti: Automatski odabir hiperparametara i arhitektura može dovesti do modela čija logika nije razumljiva korisniku.
• Problemi sa objašnjivošću: Standardne metode interpretacije (npr. SHAP, LIME) mogu raditi lošije ili biti manje informativne za modele kreirane od strane AutoML-a.
• Gubitak kontrole: Korisnik ne razume uvek zašto je AutoML odabrao baš taj model, što otežava poverenje i otklanjanje grešaka.

Za smanjenje rizika preporučuje se korišćenje AutoML-a zajedno sa alatima za interpretaciju i ograničavanje složenosti modela ako je transparentnost važna.