Какво е критерият за разклоняване в дърветата?

Критерият за разклоняване в дърветата за вземане на решения е метрика или правило, по което се избира характеристика и стойност за разделяне на данните на подмножества във всеки възел на дървото. Целта е да се максимизира хомогенността (чистотата) на получените подмножества, за да се подобри качеството на класификацията или регресията.

Примери за критерии за разклоняване:

• Индекс на Джини (Gini impurity) — измерва вероятността за грешна класификация на случайно избран обект от множеството.
• Информационна печалба (Information Gain) — измерва намаляването на несигурността след разделянето.
• Грешка при класификация (Misclassification error) — делът на неправилно класифицираните обекти.

Изборът на критерий влияе върху структурата на дървото и качеството на модела. Например, в алгоритъма CART обикновено се използва индексът на Джини, а в ID3 — информационната печалба.