Como pode um cliente entender que uma característica não é significativa sem usar a importância das características num modelo de caixa preta?

Se o modelo for uma «caixa preta» e não tiver um mecanismo embutido de importância de características, o cliente pode avaliar a importância de uma característica através de métodos experimentais:

• Remoção da característica: remover a característica dos dados e verificar o quanto a qualidade do modelo piora. Se a qualidade não mudar ou mudar de forma insignificante, a característica pode ser considerada não significativa.

• Permutação da característica: embaralhar aleatoriamente os valores da característica na amostra de teste e medir a queda na métrica. Uma queda pequena indicará baixa importância.

• Análise de correlação: se uma característica estiver fortemente correlacionada com outras, sua influência pode ser redundante.

Dessa forma, sem interpretação interna do modelo, podem-se usar métodos externos para avaliar a influência das características no resultado.