Какво е early stopping в HPO (ASHA, Hyperband)?

Ранно спиране в HPO (Оптимизация на хиперпараметри), например в алгоритмите ASHA и Hyperband, е метод за предварително прекратяване на обучението на модели, които показват лоши резултати в ранните етапи. Идеята е да не се харчат ресурси за пълно обучение на хиперпараметри, които с голяма вероятност няма да дадат добър резултат.

В ASHA (Асинхронен алгоритъм за успех и намаляване) и Hyperband ресурсите (например епохи на обучение) се разпределят последователно към множество конфигурации на хиперпараметри. След всяка итерация (промеждутен етап) резултатите се оценяват, и най-лошите конфигурации се отхвърлят (early stopping), а най-добрите получават повече ресурси за по-нататъшно обучение.

Това позволява ефективно използване на изчислителните ресурси и по-бързо намиране на оптималните хиперпараметри, като се избягва пълното обучение на всички варианти.