Wat is het splitsingscriterium in bomen?

De splitsingscriterium in beslissingsbomen is een maatstaf of regel waarmee wordt bepaald welk kenmerk en welke waarde worden gekozen om gegevens te verdelen in subsets op elke knoop van de boom. Het doel is om de homogeniteit (zuiverheid) van de resulterende subsets te maximaliseren om de kwaliteit van classificatie of regressie te verbeteren.

Voorbeelden van splitsingscriteria:

• Gini-index (Gini impurity) — meet de kans op foutieve classificatie van een willekeurig gekozen object uit de set.
• Informatiewinst (Information Gain) — meet de vermindering van onzekerheid na de splitsing.
• Misclassificatiefout (Misclassification error) — het aandeel verkeerd geclassificeerde objecten.

De keuze van het criterium beïnvloedt de structuur van de boom en de kwaliteit van het model. Bijvoorbeeld, in het CART-algoritme wordt meestal de Gini-index gebruikt, terwijl in ID3 de informatiewinst wordt toegepast.