¿Seleccionan un subconjunto de características en los nodos individuales del árbol o para todo el árbol en su conjunto?

En los árboles de decisión, la selección de un subconjunto de características generalmente ocurre en cada nodo del árbol, y no para todo el árbol en su conjunto. Al construir el árbol, en cada nodo, el algoritmo selecciona la mejor característica (o subconjunto de características) para dividir los datos, basándose en criterios de calidad de división (por ejemplo, entropía, índice de Gini).

Este enfoque permite que el árbol se adapte a las características locales de los datos en diferentes niveles y mejora la calidad de la clasificación o regresión. Si se eligiera un subconjunto de características para todo el árbol de inmediato, esto limitaría la flexibilidad del modelo.

En algunos algoritmos de ensamblaje (por ejemplo, bosques aleatorios), en cada nodo se selecciona adicionalmente un subconjunto aleatorio de características para buscar la mejor división, lo que ayuda a reducir la correlación entre los árboles y a aumentar la capacidad de generalización.