Mi az az ELBO és miért maximalizálják?

ELBO (Bizonyíték Alsó Határ) — ez a variációs következtetésben az adatok maradék valószínűségének logaritmusának alsó becslése. Bayes-i következtetési feladatokban, ahol a pontos posterior eloszlás kiszámítása lehetetlen, az ELBO célfüggvényként szolgál a közelítő eloszlás optimalizálásához.

Miért maximalizáljuk az ELBO-t:

• Az ELBO maximalizálása egyenértékű a KL-divergencia minimalizálásával a közelítő és a valódi posterior eloszlás között.
• Ez lehetővé teszi a legközelebbi közelítés megtalálását a valódi posterior eloszláshoz.
• Az ELBO kiegyensúlyozza a közelítés pontosságát és a modell összetettségét.

A Gauss-folyamatok (GP) és a Bayes-i optimalizáció (BO) kontextusában az ELBO maximalizálása segít hatékonyan tanítani a modelleket és becsléseket készíteni a bizonytalanság figyelembevételével, javítva az optimalizáció és az általánosítás minőségét.