Ce este MCMC și ce metode (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Lanțul Markov Monte Carlo) este o clasă de algoritmi pentru generarea de eșantioane din distribuții complexe, în special atunci când calculul direct este imposibil. Construiește un lanț Markov care converge în timp către distribuția țintă.

Metodele principale ale MCMC:

• Metropolis-Hastings: algoritm de bază care generează candidați pentru starea următoare și îi acceptă cu o anumită probabilitate, asigurând convergența către distribuția dorită.

• Sampling Gibbs: caz particular de Metropolis-Hastings, în care fiecare parametru este actualizat succesiv din distribuția condiționată, menținând ceilalți parametri fixați. Este deosebit de eficient dacă distribuțiile condiționate sunt cunoscute și simple.

• Monte Carlo Hamiltonian (HMC): utilizează gradientele logaritmului distribuției țintă și interpretarea fizică a dinamicii Hamilton pentru a explora mai eficient spațiul parametrilor, reducând plimbările aleatorii și accelerând convergența.

Aceste metode sunt utilizate pe scară largă în inferența bayesiană, Procese Gaussiene și Optimizarea Bayesiană pentru evaluarea distribuțiilor posterior complexe.