Ποιο είναι το κριτήριο διακλάδωσης στα δέντρα;

Το κριτήριο διακλάδωσης σε δέντρα αποφάσεων είναι μια μέτρηση ή κανόνας σύμφωνα με τον οποίο επιλέγεται ένα χαρακτηριστικό και μια τιμή για να διαχωριστούν τα δεδομένα σε υποσύνολα σε κάθε κόμβο του δέντρου. Ο στόχος είναι η μεγιστοποίηση της ομοιογένειας (καθαρότητας) των παραγόμενων υποσυνόλων, ώστε να βελτιωθεί η ποιότητα της ταξινόμησης ή της παλινδρόμησης.

Παραδείγματα κριτηρίων διακλάδωσης:

• Δείκτης Gini (Gini impurity) — μετρά την πιθανότητα λανθασμένης ταξινόμησης ενός τυχαία επιλεγμένου αντικειμένου από το σύνολο.
• Κέρδος Πληροφορίας (Information Gain) — μετρά τη μείωση της αβεβαιότητας μετά το διαχωρισμό.
• Σφάλμα λανθασμένης ταξινόμησης (Misclassification error) — ποσοστό των λανθασμένα ταξινομημένων αντικειμένων.

Η επιλογή του κριτηρίου επηρεάζει τη δομή του δέντρου και την ποιότητα του μοντέλου. Για παράδειγμα, στον αλγόριθμο CART χρησιμοποιείται συνήθως ο δείκτης Gini, ενώ στον ID3 χρησιμοποιείται το κέρδος πληροφορίας.