Quais são as formas de interpretabilidade dos modelos?

As formas de interpretabilidade dos modelos podem ser divididas em duas grandes categorias:

1. Interpretabilidade global — compreensão do funcionamento de todo o modelo.

   • Modelos simples: regressão linear, árvores de decisão.
   • Métodos de explicação: regra de importância de características, visualização da estrutura do modelo.

2. Interpretabilidade local — explicação da previsão do modelo para um exemplo específico.

   • LIME (Explicações Locais Interpretáveis e Agnósticas do Modelo): constrói uma aproximação linear local do modelo.
   • SHAP (Explicações Aditivas de Shapley): baseado na teoria dos jogos, distribui a contribuição de cada característica na previsão.

Existem também métodos de visualização, como os Partial Dependence Plots (PDP), que mostram a influência de características individuais na previsão.

Exemplo de uso do SHAP para um modelo em Python:

import shap
explainer = shap.Explainer(model)
shap_values = explainer(X)
shap.summary_plot(shap_values, X)

Estes métodos ajudam a entender por que o modelo toma certas decisões, o que é importante para a confiança e a depuração.