Kuidas kontrollida, millele mudel põhineb?

Selleks, et mõista, millele model tugineb otsuste tegemisel, kasutatakse mudelite tõlgendamise meetodeid. Näiteks:

• Feature Importance — näitab, millised tunnused mõjutavad kõige rohkem ennustusi.
• SHAP (SHapley Additive exPlanations) — selgitab iga tunnuse panust konkreetse ennustuse tegemisse.
• LIME (Local Interpretable Model-agnostic Explanations) — lähendab lokaalselt mudelit lihtsa ja tõlgendatava mudeliga.

Pythonis SHAP-i kasutamise näide:

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Sellisel viisil saab visuaalselt ja kvantitatiivselt hinnata, millised tunnused ja millises ulatuses mõjutavad mudeli väljundit.