Hogyan értelmezheti az ügyfél, hogy egy jellemző nem jelentős anélkül, hogy a jellemzők fontosságát használná egy fekete doboz modellben?

Ha a modell egy „fekete doboz”, és nincs beépített jellemző fontossági mechanizmusa, az ügyfél kísérleti módszerekkel értékelheti egy jellemző fontosságát:

• Jellemző eltávolítása: távolítsa el a jellemzőt az adatokból, és nézze meg, mennyire romlik a modell minősége. Ha a minőség nem változik vagy alig változik, a jellemzőt jelentéktelennek lehet tekinteni.

• Permutációs módszer: véletlenszerűen keverje össze a jellemző értékeit a tesztkészletben, és mérje a metrika csökkenését. A kis csökkenés alacsony fontosságot jelez.

• Korellációs elemzés: ha egy jellemző erősen korrelál másokkal, hatása redundáns lehet.

Így, a modell belső értelmezése nélkül, külső módszerek is alkalmazhatók a jellemzők hatásának értékelésére a eredményre.