Πώς μπορεί ένας πελάτης να καταλάβει ότι ένα χαρακτηριστικό δεν είναι σημαντικό χωρίς να χρησιμοποιεί τη σημασία χαρακτηριστικών σε ένα μοντέλο μαύρου κουτιού;

Αν το μοντέλο είναι ένα «μαύρο κουτί» και δεν διαθέτει ενσωματωμένο μηχανισμό σημασίας χαρακτηριστικών, ο πελάτης μπορεί να αξιολογήσει τη σημασία ενός χαρακτηριστικού μέσω πειραματικών μεθόδων:

• Αφαίρεση του χαρακτηριστικού: αφαιρέστε το χαρακτηριστικό από τα δεδομένα και δείτε πόσο χειροτερεύει η ποιότητα του μοντέλου. Αν η ποιότητα δεν αλλάζει ή αλλάζει ελάχιστα, το χαρακτηριστικό μπορεί να θεωρηθεί ασήμαντο.

• Αλλαγή σειράς του χαρακτηριστικού (permutation importance): τυχαία ανακατέψτε τις τιμές του χαρακτηριστικού στο δείγμα δοκιμής και μετρήστε την πτώση της μετρικής. Μικρή πτώση θα υποδείξει χαμηλή σημασία.

• Ανάλυση συσχέτισης: αν ένα χαρακτηριστικό συσχετίζεται έντονα με άλλα, η επίδρασή του μπορεί να είναι πλεονασματική.

Έτσι, χωρίς εσωτερική ερμηνεία του μοντέλου, μπορούν να χρησιμοποιηθούν εξωτερικές μέθοδοι για την αξιολόγηση της επίδρασης των χαρακτηριστικών στο αποτέλεσμα.