Optuna nədir və onun prunersləri nələrdir?

Optuna avtomatik hiperparametr optimallaşdırması (HPO) üçün kitabxanadır. O, modellərin ən yaxşı parametrlərini bayes optimizasiyası və digər strategiyalar vasitəsilə səmərəli axtarmağa imkan verir.

Pruners Optunada uğursuz və ya az ümidverici sınaqları erkən mərhələdə dayandıran mexanizmlərdir və hesablama resurslarını qənaət edir. Onlar müvəqqəti nəticələri analiz edir və təlimin davam etdirilib-etdirilməyəcəyinə qərar verirlər.

Optunadakı əsas pruners:

• MedianPruner — əgər onların müvəqqəti nəticələri eyni mərhələdəki digər sınaqlardan aşağıdırsa, sınaqları dayandırır.
• PercentilePruner — əgər nəticələri müəyyən edilmiş faizdən aşağıdırsa, sınaqları dayandırır.
• SuccessiveHalvingPruner — ardıcıl sınaq sayını azaldan və yalnız ən yaxşılarını saxlayan strategiyanı həyata keçirir.
• HyperbandPruner — SuccessiveHalving-in genişləndirilmiş versiyası və resursların adaptiv idarə olunması.

Pruners istifadə etmək optimallaşdırma prosesini sürətləndirməyə və ən perspektivli konfiqurasiyalara fokuslanmağa kömək edir.