Millises vahemikus määratakse mudeli hüperparameetrid?

Mudelil hiperparameetrite vahemik sõltub konkreetse algoritmi ja ülesande kohta, kuid tavaliselt määratakse see kogemuse, kirjanduse ja katsetuste põhjal. Näiteks:

• Õppimiskiiruse (learning rate) puhul gradientlanguses valitakse sageli väärtusi vahemikus 0.0001 kuni 0.1.
• Juhusliku metsa puude arv võib varieeruda 10-st kuni mitme saja-ni.
• Puu sügavus võib olla 3 kuni 30 tasandit.

Oluline on kasutada hüperparameetrite optimeerimise meetodeid (Grid Search, Random Search, Bayesian Optimization), et valida vahemikud ja väärtused, mis annavad parima tulemuse valideerimisandmetel.