Jak poznat, kdy zastavit výběr vlastností?

Zastavení výběru vlastností se doporučuje, když další vyloučení nebo přidání vlastností již nezlepšuje kvalitu modelu nebo ji začíná zhoršovat. Obvykle se spoléhá na metriky kvality (například přesnost, F1, ROC-AUC) na validační sadě. Pokud po kroku výběru vlastností:

• metrika se nezlepší,
• nebo zlepšení je nevýznamné,
• nebo se model stává příliš složitým,

je to signál k zastavení.

Je také důležité zvážit rovnováhu mezi výkonem a složitostí modelu: příliš mnoho vlastností může vést k přeučení a zvýšit dobu tréninku/předpovědi.

Příklad: při použití rekurzivního odstraňování vlastností (RFE) můžete zastavit, když metrika na validaci dosáhne maxima nebo začne klesat.