Čo je kritérium rozvetvenia v stromoch?

Kritérium rozvetvenia v rozhodovacích stromoch je metrika alebo pravidlo, podľa ktorého sa vyberá vlastnosť a hodnota na rozdelenie dát na podmnožiny na každom uzle stromu. Cieľom je maximalizovať homogénnosť (čistotu) získaných podmnožín, aby sa zlepšila kvalita klasifikácie alebo regresie.

Príklady kritérií rozvetvenia:

• Index Gini (Gini impurity) — meria pravdepodobnosť chybnej klasifikácie náhodne vybraného objektu zo súboru.
• Informačný zisk (Information Gain) — meria zníženie neistoty po rozdelení.
• Chyba klasifikácie (Misclassification error) — podiel nesprávne klasifikovaných objektov.

Voľba kritéria ovplyvňuje štruktúru stromu a kvalitu modelu. Napríklad v algoritme CART sa zvyčajne používa index Gini, zatiaľ čo v ID3 sa používa informačný zisk.