Mis on early stopping HPO-s (ASHA, Hyperband)?

Varajane peatumine HPO-s (Hipparparametrite optimeerimine), näiteks algoritmides nagu ASHA ja Hyperband, on meetod mudelite varajase peatamise jaoks, mis näitavad halbu tulemusi varajases staadiumis. Mõte on mitte kulutada ressursse täielikuks hüperparameetrite treenimiseks, mis tõenäoliselt ei anna häid tulemusi.

ASHA (Asünkroonne edukuse järkjärguline vähendamise algoritm) ja Hyperband jagavad ressursid (näiteks treeningu epohid) järjestikku paljude hüperparameetrite konfiguratsioonide vahel. Pärast iga iteratsiooni (vaheastme samm) hinnatakse tulemusi ja halvimad konfiguratsioonid (early stopping) visatakse välja, samas kui parimad saavad rohkem ressursse edasiseks treenimiseks.

See võimaldab tõhusalt kasutada arvutusressursse ja kiiremini leida optimaalsed hüperparameetrid, vältides kõigi variantide täielikku treenimist.