ELBO nədir və niyə onu maksimallaşdırırlar?

ELBO (İddia Aşağı Sınırı) — varyasyonel çıxarışda məlumatların marjinal ehtimalının logaritmasının aşağı qiymətidir. Bayes çıxarış tapşırıqlarında, dəqiq posterior paylanmasının hesablanması mümkün olmadıqda, ELBO hədəf funksiyası kimi istifadə olunur.

Niyə ELBO-ni Maksimumlaşdırırlar:

• ELBO-nun maksimuma çatdırılması, yaxınlaşdırılmış paylanma ilə həqiqi posterior paylanma arasındakı KL divergenciyasını minimallaşdırmaqla eynidir.
• Bu, həqiqi posterior paylanmaya ən yaxın yaxınlaşmanı tapmağa imkan verir.
• ELBO, yaxınlaşmanın dəqiqliyi ilə modelin mürəkkəbliyi arasında balans təmin edir.

Gaussian Prosesləri (GP) və Bayesian Optimizasiya (BO) kontekstində, ELBO-nun maksimuma çatdırılması modellərin səmərəli öyrədilməsinə və qeyri-müəyyənliyi nəzərə alaraq proqnozlar verməyə kömək edir, bu da optimallaşdırma və ümumiləşdirmə keyfiyyətini artırır.