MCMC nedir ve hangi yöntemler (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markov Zinciri Monte Carlo) karmaşık dağılımlardan örnekler üretmek için kullanılan algoritmalar sınıfıdır, özellikle doğrudan hesaplama imkânsız olduğunda. Bir Markov zinciri kurar ve zamanla hedef dağılıma yakınsar.

MCMC’nin temel yöntemleri:

• Metropolis-Hastings: temel algoritma, bir sonraki durum için adaylar üretir ve belirli bir olasılıkla kabul eder, böylece hedef dağılıma yakınsar.

• Gibbs Örneklemesi: Metropolis-Hastings’in özel bir durumu olup, her parametre sırasıyla koşullu dağılımdan güncellenir ve diğer parametreler sabit tutulur. Koşullu dağılımlar biliniyor ve basitse, özellikle etkilidir.

• Hamiltonian Monte Carlo (HMC): hedef dağılımın logaritmasının gradyanlarını ve Hamilton dinamiğinin fiziksel yorumunu kullanarak parametre alanını daha verimli keşfeder, rastgele yürüyüşleri azaltır ve yakınsamayı hızlandırır.

Bu yöntemler, karmaşık posterior dağılımların değerlendirilmesi için Bayesian çıkarım, Gaussian Süreçleri ve Bayesian Optimizasyon gibi alanlarda yaygın olarak kullanılır.