Aké sú spôsoby interpretovateľnosti modelov?

Spôsoby interpretovateľnosti modelov možno rozdeliť do dvoch veľkých kategórií:

1. Globálna interpretovateľnosť — pochopenie fungovania celého modelu.

   • Jednoduché modely: lineárna regresia, rozhodovacie stromy.
   • Metódy vysvetľovania: pravidlo dôležitosti znakov, vizualizácia štruktúry modelu.

2. Lokálna interpretovateľnosť — vysvetlenie predpovede modelu pre konkrétny príklad.

   • LIME (Lokálne interpretovateľné a model-agnostické vysvetlenia): vytvára lokálne lineárne približenie modelu.
   • SHAP (Shapley aditívne vysvetlenia): založené na teórii hier, rozdeľuje príspevok každej vlastnosti k predpovedi.

Existujú aj metódy vizualizácie, ako sú Partial Dependence Plots (PDP), ktoré ukazujú vplyv jednotlivých vlastností na predpoveď.

Príklad použitia SHAP pre model v Pythone:

import shap
explainer = shap.Explainer(model)
shap_values = explainer(X)
shap.summary_plot(shap_values, X)

Tieto metódy pomáhajú pochopiť, prečo model prijíma určité rozhodnutia, čo je dôležité pre dôveru a ladenie.