Mis on ELBO ja miks seda maksimeeritakse?

ELBO (Evidence Lower Bound) — see on alampiir hinnang andmete marginaalse tõenäosuse logaritmile variatsioonilise tõlgenduse raames. Bayes'i tõlgendamise ülesannetes, kus täpne posteriorjaotus on võimatu arvutada, toimib ELBO eesmiffunktsioonina lähendava ja tõelise posteriorjaotuse vahelise KL-divergentsi minimeerimiseks.

Miks ELBO-d maksimeerida:

• ELBO maksimeerimine on võrdne KL-divergentsi minimeerimisega lähendava ja tõelise posteriorjaotuse vahel.
• See võimaldab leida kõige lähemal oleva lähenduse tõelisele posteriorjaotusele.
• ELBO tagab tasakaalu lähendamise täpsuse ja mudeli keerukuse vahel.

Gaussi protsesside (GP) ja Bayes'i optimeerimise (BO) kontekstis aitab ELBO maksimeerimine tõhusalt treenida mudeleid ja teha prognoose, arvestades ebakindlust, parandades optimeerimise ja üldistamise kvaliteeti.