Kako znati kada zaustaviti odabir karakteristika?

Preporučuje se zaustavljanje odabira karakteristika kada dodatno isključivanje ili dodavanje karakteristika više ne poboljšava kvalitet modela ili počinje da ga pogoršava. Obično se oslanja na metrike kvaliteta (npr. tačnost, F1, ROC-AUC) na validacionom skupu. Ako nakon koraka odabira karakteristika:

• metrika se ne poboljšava,
• ili je poboljšanje neznatno,
• ili model postaje previše složen,

ovo je signal za zaustavljanje.

Takođe je važno uzeti u obzir balans između performansi i složenosti modela: previše karakteristika može dovesti do preprilagođavanja i povećanja vremena obuke/predviđanja.

Primer: korišćenjem rekurzivnog uklanjanja karakteristika (RFE), možete stati kada metrika na validaciji dostigne maksimum ili počne da opada.