Ağacın fərdi düyünlərində və ya bütün ağac üçün xüsusiyyətlərin alt toplusunu seçirlərmi?

Qərar ağaclarında, xüsusiyyətlərin alt toplusunun seçimi adətən ağacın hər bir düyünündə baş verir və bütün ağac üçün deyil. Ağacın qurulması zamanı, hər bir düyündə, alqoritm məlumatları bölmək üçün ən yaxşı xüsusiyyəti (və ya xüsusiyyətlərin alt toplusunu) seçir, bölünmə keyfiyyətinə əsaslanan meyarlar (məsələn, entropiya, Gini indeksi).

Bu yanaşma ağaca müxtəlif səviyyələrdə yerli məlumat xüsusiyyətlərinə uyğunlaşmağa imkan verir və təsnifat və ya reqressiya keyfiyyətini yaxşılaşdırır. Əgər bütün ağac üçün xüsusiyyətlərin alt toplusu dərhal seçilsəydi, bu modelin elastikliyini məhdudlaşdırardı.

Bəzi ansambl alqoritmlərində (məsələn, təsadüfi meşələr), hər bir düyündə əlavə olaraq təsadüfi xüsusiyyətlər alt toplusu seçilir və ən yaxşı bölünmə tapılır, bu da ağaclar arasındakı korrelyasiyanı azaltmağa və ümumiləşdirmə qabiliyyətini artırmağa kömək edir.