Πώς καταλαβαίνεις πότε να σταματήσεις την επιλογή χαρακτηριστικών;

Η διακοπή της επιλογής χαρακτηριστικών συνίσταται όταν η περαιτέρω αφαίρεση ή προσθήκη χαρακτηριστικών δεν βελτιώνει πλέον την ποιότητα του μοντέλου ή αρχίζει να την επιδεινώνει. Συνήθως, βασίζεται σε μετρικές ποιότητας (π.χ., ακρίβεια, F1, ROC-AUC) στο σύνολο επικύρωσης. Αν μετά από ένα βήμα επιλογής χαρακτηριστικών:

• η μετρική δεν βελτιώνεται,
• ή η βελτίωση είναι ασήμαντη,
• ή το μοντέλο γίνεται υπερβολικά πολύπλοκο,

αυτό είναι σήμα για διακοπή.

Είναι επίσης σημαντικό να λαμβάνεται υπόψη η ισορροπία μεταξύ απόδοσης και πολυπλοκότητας του μοντέλου: πάρα πολλά χαρακτηριστικά μπορεί να οδηγήσουν σε υπερπροσαρμογή και να αυξήσουν το χρόνο εκπαίδευσης/πρόβλεψης.

Παράδειγμα: κατά τη χρήση αναδρομικής αφαίρεσης χαρακτηριστικών (RFE), μπορείτε να σταματήσετε όταν η μετρική στο validation φτάσει στο μέγιστο ή αρχίσει να μειώνεται.