Kādi ir modeļu interpretācijas veidi?

Modelu interpretācijas metodes var iedalīt divās lielās kategorijās:

1. Globālā interpretācija — visa modeļa darbības izpratne:

   • Vienkārši modeļi: lineārā regresija, lēmumu koki.
   • Skaidrojuma metodes: svarīguma noteikšanas noteikums, modeļa struktūras vizualizācija.

2. Lokālā interpretācija — modeļa prognozes skaidrojums konkrētam piemēram:

   • LIME (Lokālas interpretējamas un modeļa-agnostiskas skaidrojumi): veido modeļa vietējo lineāro tuvumu.
   • SHAP (Shapley papildinošie skaidrojumi): balstās uz spēļu teoriju, sadala katras īpašības ieguldījumu prognozē.

Ir arī vizualizācijas metodes, piemēram, Partial Dependence Plots (PDP), kas parāda atsevišķu īpašību ietekmi uz prognozi.

Python piemērs, kā izmantot SHAP:

import shap
explainer = shap.Explainer(model)
shap_values = explainer(X)
shap.summary_plot(shap_values, X)

Šīs metodes palīdz saprast, kāpēc modelis pieņem noteiktus lēmumus, kas ir svarīgi uzticībai un kļūdu labojumam.