Hoe controleer je waarop het model gebaseerd is?

Om te begrijpen waarop het model gebaseerd is bij het nemen van beslissingen, worden methoden voor modelinterpretatie gebruikt. Bijvoorbeeld:

• Feature Importance — toont welke kenmerken de meeste invloed hebben op de voorspellingen.
• SHAP (SHapley Additive exPlanations) — legt de bijdrage van elk kenmerk uit aan een specifieke voorspelling.
• LIME (Local Interpretable Model-agnostic Explanations) — benadert lokaal het model met een eenvoudig interpreteerbaar model.

Voorbeeld van het gebruik van SHAP voor een model in Python:

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Op deze manier kan men visueel en kwantitatief beoordelen welke kenmerken en in welke mate ze de uitkomst van het model beïnvloeden.