Mi az MCMC és milyen módszerek (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markov lánc Monte Carlo) egy algoritmusosztály komplex eloszlásokból származó minták generálására, különösen akkor, ha a közvetlen számítás lehetetlen. Egy Markov-láncot épít, amely idővel a céleloszlás felé konvergál.

Az MCMC fő módszerei:

• Metropolis-Hastings: alap algoritmus, amely generál jelölteket a következő állapothoz, és bizonyos valószínűséggel elfogadja azokat, biztosítva a kívánt eloszlásba való konvergenciát.

• Gibbs mintavétel: a Metropolis-Hastings egy speciális esete, ahol minden paramétert egymás után frissítenek a feltételes eloszlásból, miközben a többi paraméter változatlan marad. Különösen hatékony, ha a feltételes eloszlások ismert és egyszerűek.

• Hamiltonian Monte Carlo (HMC): a cél eloszlás logaritmusának gradiensét és a Hamilton dinamikájának fizikai értelmezését használja, hogy hatékonyabban fedezze fel a paraméterteret, csökkentve a véletlenszerű sétákat és gyorsítva a konvergenciát.

Ezeket a módszereket széles körben alkalmazzák a bayesi következtetésben, Gauss-folyamatokban és bayesi optimalizációban összetett posterior eloszlások értékelésére.