Qual é o critério de ramificação nas árvores?

O critério de ramificação em árvores de decisão é uma métrica ou regra que determina qual a característica e o valor usados para dividir os dados em sub-conjuntos em cada nó da árvore. O objetivo é maximizar a homogeneidade (pureza) dos sub-conjuntos resultantes para melhorar a qualidade da classificação ou regressão.

Exemplos de critérios de ramificação:

• Índice de Gini (Gini impurity) — mede a probabilidade de erro na classificação de um objeto escolhido aleatoriamente do conjunto.
• Ganhos de informação (Information Gain) — mede a redução da incerteza após a divisão.
• Critério de erro de classificação (Misclassification error) — proporção de objetos classificados incorretamente.

A escolha do critério afeta a estrutura da árvore e a qualidade do modelo. Por exemplo, no algoritmo CART, geralmente é usado o índice de Gini, enquanto no ID3, usa-se o ganho de informação.