Kas yra MCMC ir kokie yra metodai (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markovo grandinės Monte Karlo) yra algoritmų klasė, skirta sudėtingų paskirstymų pavyzdžiams generuoti, ypač kai tiesioginiai skaičiavimai yra neįmanomi. Jis kuria Markovo grandinę, kuri laikui bėgant artėja prie tikslo paskirstymo.

Pagrindiniai MCMC metodai:

• Metropolis-Hastings: pagrindinis algoritmas, kuris generuoja kandidatus į būseną ir juos priima su tam tikra tikimybe, užtikrinant konvergenciją prie norimo paskirstymo.

• Gibso mėginimas: Metropolis-Hastings ypatingas atvejis, kai kiekvienas parametras atnaujinamas paeiliui iš sąlyginio paskirstymo, išlaikant kitus parametrus fiksuotus. Ypač efektyvus, jei sąlyginiai paskirstymai yra žinomi ir paprasti.

• Hamiltonian Monte Carlo (HMC): naudoja logaritmo gradientus ir Hamiltono dinamikos fizinę interpretaciją, siekiant efektyviau tirti parametrų erdvę, sumažinti atsitiktinius vaikščiojimus ir pagreitinti konvergenciją.

Šie metodai plačiai taikomi Bayes'o išvadose, Gauso procesuose ir Bayes'o optimizacijoje sudėtingų posterior paskirstymų įvertinimui.