Milyen módon értelmezhetők a modellek?

A modellek értelmezhetőségének módszerei két nagy kategóriába sorolhatók:

1. Globális értelmezhetőség — az egész modell működésének megértése.

   • Egyszerű modellek: lineáris regresszió, döntési fák.
   • Magyarázó módszerek: jellemzők fontossági szabálya, a modell struktúrájának vizualizálása.

2. Lokális értelmezhetőség — a modell predikciójának magyarázata egy adott példára.

   • LIME (Lokális értelmezhető és modell-agnosztikus magyarázatok): a modell helyi lineáris közelítését készíti.
   • SHAP (Shapley hozzáadott magyarázatok): játékelméleten alapul, minden jellemző hozzájárulását osztja szét a predikcióban.

Emellett léteznek vizualizációs módszerek, mint például a Partial Dependence Plots (PDP), amelyek megmutatják az egyes jellemzők hatását a predikcióra.

Pythonban a SHAP használatának példája:

import shap
explainer = shap.Explainer(model)
shap_values = explainer(X)
shap.summary_plot(shap_values, X)

Ezek a módszerek segítenek megérteni, hogy miért hoz a modell bizonyos döntéseket, ami fontos a bizalom és a hibakeresés szempontjából.