Wie überprüft man, worauf das Modell basiert?

Um zu verstehen, worauf das Modell bei der Entscheidungsfindung basiert, werden Methoden der Modellinterpretierbarkeit verwendet. Zum Beispiel:

• Feature Importance — zeigt, welche Merkmale den größten Einfluss auf die Vorhersagen haben.
• SHAP (SHapley Additive exPlanations) — erklärt den Beitrag jedes Merkmals zu einer bestimmten Vorhersage.
• LIME (Local Interpretable Model-agnostic Explanations) — approximiert lokal das Modell mit einem einfachen interpretierbaren Modell.

Beispiel für die Verwendung von SHAP für ein Modell in Python:

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Auf diese Weise kann man visuell und quantitativ bewerten, welche Merkmale in welchem Maße die Ausgabe des Modells beeinflussen.