O que é SHAP para modelos de madeira e por que TreeSHAP?

SHAP (Explicações Aditivas de Shapley) é um método de explicação das previsões de modelos de aprendizagem automática baseado na teoria dos jogos. Ele calcula a contribuição de cada característica na previsão final, distribuindo a "influência" de forma justa e consistente.

Para árvores de decisão e conjuntos de árvores (por exemplo, gradient boosting), existe um algoritmo otimizado chamado TreeSHAP, que calcula de forma eficiente os valores SHAP considerando a estrutura da árvore. Isso permite compreender rápida e precisamente como cada característica influencia a previsão do modelo.

TreeSHAP é útil para a interpretabilidade de modelos, especialmente em dados tabulares, onde é importante entender a influência das características e explicar as decisões do modelo aos utilizadores ou ao negócio.