Kas yra early stopping HPO (ASHA, Hyperband) metu?

Ankstyvas sustojimas HPO (hiperparametrų optimizavimas), pavyzdžiui, algoritmuose kaip ASHA ir Hyperband, yra būdas iš anksto nutraukti modelių mokymą, jei jie rodo prastus rezultatus ankstyvosiose stadijose. Idėja yra nesunaudoti išteklių visiškam hiperparametrų mokymui, kuris didelė tikimybė, kad neduos gero rezultato.

ASHA (Asinchroninis sėkmės laipsniško mažinimo algoritmas) ir Hyperband, ištekliai (pavyzdžiui, mokymosi epochai) yra sekliškai paskirstomi daugeliui hiperparametrų konfigūracijų. Po kiekvienos iteracijos (tarpinio žingsnio) rezultatai įvertinami, ir blogiausios konfigūracijos (early stopping) yra atmestos, o geriausios gauna daugiau išteklių tolimesniam mokymuisi.

Tai leidžia efektyviai naudoti skaičiavimo išteklius ir greičiau rasti optimalias hiperparametrų reikšmes, išvengiant visų variantų visiško mokymo.