Ποια είναι τα μέσα πρόληψης του υπερεκπαίδευσης στο boosting (subsample, colsample, min_child);

Στο boosting, η υπερεκπαίδευση αποτρέπεται με διάφορες τεχνικές:

• subsample — τυχαία επιλογή ενός μέρους των εκπαιδευτικών αντικειμένων (γραμμές) για την κατασκευή κάθε δέντρου. Αυτό μειώνει τη συσχέτιση μεταξύ των δέντρων και μειώνει την υπερεκπαίδευση.

• colsample — τυχαία επιλογή χαρακτηριστικών (στήλες) για την κατασκευή κάθε δέντρου ή διαχωρισμού. Αυτό βοηθά στην αποφυγή εξάρτησης από τα ίδια χαρακτηριστικά και βελτιώνει την ικανότητα γενίκευσης.

• min_child_weight (min_child) — ελάχιστο συνολικό βάρος των αντικειμένων σε ένα φύλλο του δέντρου. Αν το βάρος είναι μικρότερο, η διαίρεση δεν πραγματοποιείται. Αυτό αποτρέπει τη δημιουργία πολύ μικρών φύλλων που μπορεί να απομνημονεύουν θόρυβο.

Αυτές οι παράμετροι ρυθμίζουν την ποικιλομορφία και την πολυπλοκότητα του μοντέλου, βοηθώντας το να γενικεύει καλύτερα σε νέα δεδομένα.