Kuidas erineb VI MCMC-st trade-off osas?

Variaatsiooniline tõlgendus (VI) ja Markovi ahela Monte Carlo (MCMC) on kaks peamist lähenemisviisi keerukate posteriorjaotuste lähenemiseks Bayesi mudelites ning need erinevad tasakaalu osas täpsuse ja arvutusliku tõhususe vahel.

• MCMC pakub asümptootiliselt täpseid näidiseid posteriorjaotusest, kuid nõuab sageli palju arvutus aega ning võib halvasti skaleeruda suurte andmekogumite või keerukate mudelite puhul.

• VI muudab lähenemisülesande optimeerimiseks, mis on tavaliselt kiirem ja skaleeritavam, kuid lähenemine võib olla vähem täpne ning sõltub valitud variatsioonilise jaotuse perekonnast.

Seega on kompromiss järgmine:

Meetod	Täpsus	Arvutuslik tõhusus	Skaleeritavus
MCMC	Kõrge (asümptootiliselt täpne)	Madal (kallid arvutused)	Piiratud
VI	Keskmine (sõltub lähenemisest)	Kõrge (kiire optimeerimine)	Hea

Valik sõltub täpsusnõuetest ja ressurssidest. Piiratud ajaga ja suurte andmekogumitega ülesannetes valitakse sageli VI, ning täpsema analüüsi jaoks — MCMC.