Comment vérifier sur quoi repose le modèle?

Pour comprendre sur quoi repose le modèle lors de la prise de décision, on utilise des méthodes d'interprétabilité des modèles. Par exemple :

• Importance des caractéristiques — montre quelles caractéristiques influencent le plus les prédictions.
• SHAP (SHapley Additive exPlanations) — explique la contribution de chaque caractéristique à une prédiction spécifique.
• LIME (Local Interpretable Model-agnostic Explanations) — approxime localement le modèle par un modèle simple et interprétable.

Exemple d'utilisation de SHAP pour un modèle en Python :

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Ainsi, il est possible d'évaluer visuellement et quantitativement quelles caractéristiques et dans quelle mesure elles influencent la sortie du modèle.