ELBO nedir ve neden maksimize edilir?

ELBO (Kanıt Alt Sınırı) — varyasyonel çıkarımda verilerin marjinal olasılığının logaritmasının alt sınırıdır. Bayes çıkarım görevlerinde, tam posterior dağılımın hesaplanması imkansız olduğunda, ELBO yaklaşık dağılımı optimize etmek için hedef fonksiyonu olarak hizmet eder.

Neden ELBO maksimize edilir:

• ELBO’nun maksimize edilmesi, yaklaşık dağılım ile gerçek posterior dağılım arasındaki KL uzaklığını minimize etmekle eşdeğerdir.
• Bu, gerçek posterior dağılıma en yakın yaklaşık dağılımı bulmayı sağlar.
• ELBO, yaklaşımın doğruluğu ile modelin karmaşıklığı arasında denge sağlar.

Gaussian İşlemleri (GP) ve Bayesian Optimizasyon (BO) bağlamında, ELBO’nun maksimize edilmesi, modelleri verimli bir şekilde eğitmeye ve belirsizliği dikkate alarak tahminler yapmaya yardımcı olur, böylece optimizasyon ve genelleştirme kalitesini artırır.