Πώς να ελέγξετε πάνω σε τι βασίζεται το μοντέλο;

Για να κατανοήσουμε σε τι βασίζεται το μοντέλο κατά τη λήψη αποφάσεων, χρησιμοποιούνται μέθοδοι ερμηνευσιμότητας μοντέλων. Για παράδειγμα:

• Feature Importance — δείχνει ποια χαρακτηριστικά επηρεάζουν περισσότερο τις προβλέψεις.
• SHAP (SHapley Additive exPlanations) — εξηγεί τη συμβολή κάθε χαρακτηριστικού σε μια συγκεκριμένη πρόβλεψη.
• LIME (Local Interpretable Model-agnostic Explanations) — προσεγγίζει τοπικά το μοντέλο με ένα απλό και ερμηνεύσιμο μοντέλο.

Παράδειγμα χρήσης του SHAP σε Python:

import shap
explainer = shap.Explainer(model, data)
shap_values = explainer(data)
shap.summary_plot(shap_values, data)

Έτσι, μπορούμε να αξιολογήσουμε οπτικά και ποσοτικά ποια χαρακτηριστικά και σε ποιο βαθμό επηρεάζουν την έξοδο του μοντέλου.