Czym jest MCMC i jakie są metody (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markov Chain Monte Carlo) to klasa algorytmów służących do generowania próbek z złożonych rozkładów, szczególnie gdy bezpośrednie obliczenia są niemożliwe. Tworzy łańcuch Markowa, który z czasem zbiega do rozkładu docelowego.

Główne metody MCMC:

• Metropolis-Hastings: podstawowy algorytm, który generuje kandydatów na następny stan i akceptuje ich z określonym prawdopodobieństwem, zapewniając zbieżność do pożądanego rozkładu.

• Sampling Gibbsa: szczególny przypadek Metropolis-Hastings, w którym każdy parametr jest kolejno aktualizowany na podstawie rozkładu warunkowego, przy stałych pozostałych parametrach. Szczególnie skuteczny, jeśli rozkłady warunkowe są znane i proste.

• Hamiltonian Monte Carlo (HMC): wykorzystuje gradienty logarytmu rozkładu docelowego i fizyczną interpretację dynamiki Hamiltona, aby efektywniej eksplorować przestrzeń parametrów, zmniejszając losowe wędrówki i przyspieszając zbieżność.

Metody te są szeroko stosowane w wnioskowaniu bayesowskim, Procesach Gaussowskich i Optymalizacji Bayesowskiej do oceny złożonych rozkładów posteriori.