¿Qué es el presupuesto de búsqueda y cómo planificarlo?

Search budget — es una restricción en los recursos (tiempo, potencia computacional, número de iteraciones) asignados al proceso de búsqueda de hiperparámetros o modelos óptimos en tareas de aprendizaje automático automático (AutoML) y optimización de hiperparámetros (HPO).

La planificación del search budget incluye:

• Determinar los recursos disponibles (tiempo, potencia computacional).
• Elegir una estrategia de búsqueda (por ejemplo, búsqueda aleatoria, optimización bayesiana, búsqueda en cuadrícula) considerando el presupuesto.
• Establecer un número máximo de iteraciones o tiempo de ejecución.
• Priorización de las áreas más prometedoras del espacio de hiperparámetros.

Por ejemplo, si tienes 24 horas para la optimización, puedes configurar el algoritmo para que investigue los hiperparámetros durante ese tiempo, en lugar de intentar explorar todas las opciones, lo cual puede ser imposible.

De esta manera, el search budget ayuda a utilizar de manera eficiente los recursos limitados y obtener los mejores resultados dentro de las restricciones establecidas.