Como funciona a paragem precoce em árvores?

Paragem precoce em árvores de decisão é uma técnica que previne o sobreajuste e o crescimento excessivo da árvore, limitando o seu crescimento nas fases iniciais de construção.

Ela funciona estabelecendo critérios que, ao serem atingidos, impedem a divisão adicional dos nós. Por exemplo:

• Profundidade máxima da árvore (max_depth)
• Número mínimo de objetos num nó para dividir (min_samples_split)
• Número mínimo de objetos numa folha (min_samples_leaf)
• Melhoria mínima no critério de qualidade para dividir (min_impurity_decrease)

Quando um destes critérios é cumprido, a árvore para de crescer nesse nó, ajudando a evitar o sobreajuste e a melhorar a capacidade de generalização do modelo.

Exemplo em scikit-learn:

from sklearn.tree import DecisionTreeClassifier

clf = DecisionTreeClassifier(max_depth=5, min_samples_split=10)
clf.fit(X_train, y_train)

Aqui, a árvore não irá crescer além de 5 níveis e não irá dividir os nós com menos de 10 objetos, o que é uma forma de paragem precoce.