¿Cómo saber cuándo detener la selección de características?

Detener la selección de características es recomendable cuando la exclusión o adición adicional de características deja de mejorar la calidad del modelo o empieza a empeorarla. Normalmente, se basan en métricas de calidad (por ejemplo, precisión, F1, ROC-AUC) en el conjunto de validación. Si después de un paso de selección de características:

• no mejora la métrica,
• o la mejora es insignificante,
• o el modelo se vuelve demasiado complejo,

esto es una señal para detenerse.

También es importante considerar el equilibrio entre el rendimiento y la complejidad del modelo: demasiadas características pueden llevar a sobreajuste y aumentar el tiempo de entrenamiento/predicción.

Ejemplo: al usar la eliminación recursiva de características (RFE), se puede detener cuando la métrica en la validación alcanza su máximo o comienza a disminuir.