Kas yra ELBO ir kodėl jį maksimizuoja?

ELBO (Įrodymo apatinė riba) — tai žemesnė įvertinimo vertė logaritmo maržalinės tikimybės duomenų variacinėje įžvalgoje. Bayesinio įžvalgos užduotyse, kur tikslią posterioro paskirstymą apskaičiuoti neįmanoma, ELBO tarnauja kaip tikslo funkcija artimojo paskirstymo optimizavimui.

Kodėl maksimalizuojame ELBO:

• ELBO maksimalizavimas yra lygiavertis KL divergencijos mažinimui tarp artimojo ir tikrojo posterioro paskirstymo.
• Tai leidžia rasti artimiausią tikrojo posterioro paskirstymo artėjimą.
• ELBO užtikrina pusiausvyrą tarp artimojo tikslumo ir modelio sudėtingumo.

Gauso procesų (GP) ir Bayesinio optimizavimo (BO) kontekste, ELBO maksimalizavimas padeda efektyviai treniruoti modelius ir daryti prognozes atsižvelgiant į neapibrėžtumą, gerinant optimizacijos ir bendrosios gebėjimo kokybę.