Milyen tartományban vannak beállítva a modell hiperparaméterei?

A modell hiperparaméter tartománya az adott algoritmustól és feladattól függ, de általában tapasztalat, irodalom és kísérletek alapján határozzák meg. Például:

• A tanulási ráta (learning rate) esetén a gradiens csökkenésnél gyakran 0.0001 és 0.1 közötti értékeket választanak.
• A véletlen erdőben lévő fák száma 10-től több százig terjedhet.
• A fa mélysége 3-tól 30 szintig lehet.

Fontos hiperparaméter-optimalizációs módszereket (Grid Search, Random Search, Bayesian Optimization) alkalmazni, hogy olyan tartományokat és értékeket találjunk, amelyek a legjobb eredményt adják a validációs adatokon.