Czym jest kryterium rozgałęzienia w drzewach?

Kryterium rozgałęzienia w drzewach decyzyjnych to miara lub zasada, według której wybierany jest atrybut i wartość do podziału danych na podzbiory na każdym węźle drzewa. Celem jest maksymalizacja jednorodności (czystości) otrzymanych podzbiorów, aby poprawić jakość klasyfikacji lub regresji.

Przykłady kryteriów rozgałęzienia:

• Wskaźnik Gini (Gini impurity) — mierzy prawdopodobieństwo błędnej klasyfikacji losowo wybranego obiektu z zestawu.
• Zysk informacyjny (Information Gain) — mierzy zmniejszenie niepewności po podziale.
• Błąd klasyfikacji (Misclassification error) — odsetek nieprawidłowo sklasyfikowanych obiektów.

Wybór kryterium wpływa na strukturę drzewa i jakość modelu. Na przykład w algorytmie CART zwykle używa się wskaźnika Gini, a w ID3 — zysku informacyjnego.