Wat is search budget en hoe plan je het?

Search budget — is een beperking op de middelen (tijd, rekenkracht, aantal iteraties) die worden toegewezen aan het proces van het zoeken naar optimale hyperparameters of modellen in taken van automatische machine learning (AutoML) en hyperparameteroptimalisatie (HPO).

Het plannen van het search budget omvat:

• Het bepalen van beschikbare middelen (tijd, rekenkracht).
• Het kiezen van een zoekstrategie (bijvoorbeeld willekeurige zoek, bayesiaanse optimalisatie, grid search) met inachtneming van het budget.
• Het vaststellen van een maximaal aantal iteraties of de duur van de uitvoering.
• Prioriteren van de meest veelbelovende gebieden binnen de hyperparameterruimte.

Bijvoorbeeld, als je 24 uur hebt voor optimalisatie, kun je het algoritme zo instellen dat het de hyperparameters gedurende die tijd onderzoekt, in plaats van alle varianten te proberen, wat onmogelijk kan zijn.

Op deze manier helpt het search budget om de beperkte middelen efficiënt te gebruiken en de beste resultaten te behalen binnen de gestelde beperkingen.