Como é que uma árvore devolve a probabilidade de um objeto pertencer a uma classe?

Nos árvores de decisão, a probabilidade de um objeto pertencer a uma classe é geralmente determinada com base na distribuição de classes no nó folha onde o objeto cai.

Quando um objeto passa pela árvore, ele acaba em um dos nós folha. Nesse nó, são armazenados exemplos de treinamento com classes conhecidas. A probabilidade de uma classe é calculada como a proporção de objetos dessa classe entre todos os objetos nesse nó.

Por exemplo, se em um nó folha há 100 objetos, dos quais 70 pertencem à classe A e 30 à classe B, então a probabilidade de um novo objeto pertencer à classe A será 0,7, e à classe B — 0,3.

Essa abordagem não só permite classificar um objeto, mas também avaliar a confiança do modelo na previsão.

# Exemplo em Python usando sklearn
from sklearn.tree import DecisionTreeClassifier

X = [[0], [1], [2], [3]]
y = [0, 0, 1, 1]
clf = DecisionTreeClassifier().fit(X, y)

# Probabilidade de pertença às classes para um novo objeto
probs = clf.predict_proba([[1.5]])
print(probs)  # Por exemplo, [[0.5, 0.5]]