Kas ir ELBO un kāpēc to maksimizē?

ELBO (Pierādījuma apakšējā robeža) — tā ir zemākā novērtējuma vērtība datu marģinālajai varbūtībai variācijas izteiksmē. Bayesa novērtēšanas uzdevumos, kur precīza posteriora sadalījuma aprēķināšana nav iespējama, ELBO kalpo kā mērķa funkcija, lai optimizētu tuvināmo sadalījumu.

Kāpēc maksimizēt ELBO:

• ELBO maksimizēšana ir vienāda ar KL divergences samazināšanu starp tuvināmo un patieso posteriora sadalījumu.
• Tas ļauj atrast tuvāko pieejamo patiesajam posteriora sadalījumam.
• ELBO nodrošina līdzsvaru starp tuvinājuma precizitāti un modeļa sarežģītību.

Gausa procesu (GP) un Bayes optimizācijas (BO) kontekstā, ELBO maksimizēšana palīdz efektīvi apmācīt modeļus un veikt prognozes, ņemot vērā nenoteiktību, uzlabojot optimizācijas un vispārējās spējas kvalitāti.