Ar renka požymių pogrupį atskiruose medžio mazguose ar viso medžio mastu?

Sprendimų medžiuose dažniausiai pasirenkama požymių pogrupis kiekviename medžio mazge, o ne visame medyje. Statant medį, kiekviename mazge algoritmas pasirenka geriausią požymį (arba požymių pogrupį) duomenų skirstymui, remdamasis kokybės kriterijais (pvz., entropija, Gini indeksu).

Šis požiūris leidžia medžiui prisitaikyti prie vietinių duomenų ypatybių skirtinguose lygiuose ir pagerina klasifikacijos ar regresijos kokybę. Jei požymių pogrupis būtų pasirinktas visam medžiui iš karto, tai ribotų modelio lankstumą.

Kai kuriuose ansamblio algoritmuose (pvz., atsitiktiniuose miškuose) kiekviename mazge papildomai atsitiktinai pasirenkamas požymių pogrupis, siekiant rasti geriausią skirstymą, tai padeda sumažinti koreliaciją tarp medžių ir padidinti bendrąją gebėjimą.