Come può un cliente capire che una caratteristica non è significativa senza usare l'importanza delle caratteristiche in un modello a scatola nera?

Se il modello è una «scatola nera» e non dispone di un meccanismo integrato di importanza delle caratteristiche, il cliente può valutare l'importanza di una caratteristica tramite metodi sperimentali:

• Rimozione della caratteristica: rimuovere la caratteristica dai dati e osservare quanto peggiora la qualità del modello. Se la qualità non cambia o cambia in modo insignificante, la caratteristica può essere considerata non significativa.

• Permutazione della caratteristica: mescolare casualmente i valori della caratteristica nel set di test e misurare il calo della metrica. Un calo minimo indicherà una bassa importanza.

• Analisi di correlazione: se una caratteristica è fortemente correlata con altre, il suo impatto può essere ridondante.

In questo modo, senza un'interpretazione interna del modello, si possono usare metodi esterni per valutare l'influenza delle caratteristiche sul risultato.