Bayes optimizasiyası və əldəetmə funksiyaları (EI, UCB, PI) nədir?

Bayesian Optimization — mürəkkəb funksiyaların optimallaşdırılması üçün istifadə olunan bir metod olub, qiymətləndirmə üçün baha və ya analitik forması olmayan funksiyaları optimallaşdırır. O, ümumiyyətlə, Gaussian prosesi olan ehtimal modelindən istifadə edir və hədəf funksiyasını təxmin edir və növbəti qiymətləndirmə nöqtələrini seçir, tədqiqat (exploration) və istifadə (exploitation) arasında balans qurur.

Əldəetmə funksiyaları — mövcud modelə əsaslanaraq, növbəti təcrübənin harada keçirilməli olduğunu müəyyən edən funksiyalardır. Onlar modelin proqnozlarını nöqtənin seçilməsi üçün meyara çevirirlər.

Əsas əldəetmə funksiyaları:

• Expected Improvement (EI) — mövcud ən yaxşı qiymətlə müqayisədə gözlənilən yaxşılaşma. Maksimum yaxşılaşmanın gözlənildiyi nöqtələri seçir.

• Upper Confidence Bound (UCB) — orta proqnoz və qeyri-müəyyənlik (varyans) ilə birləşdirir və tədqiqat və istifadə arasında balans qurmağa imkan verir. Ümumiyyətlə formulası belədir: UCB(x) = μ(x) + κ·σ(x), burada κ parametrdir.

• Probability of Improvement (PI) — x nöqtəsində funksiyanın mövcud ən yaxşı nəticəni aşma ehtimalı.

Bu şəkildə, Bayesian Optimization funksiyanın maksimum və ya minimumunu səmərəli şəkildə axtarır, model və əldəetmə funksiyasından istifadə edərək ən perspektivli nöqtələri seçir.