Kas ir MCMC un kādas ir metodes (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markova ķēde Monte Karlo) ir algoritmu klase, kas paredzēta sarežģītu sadalījumu paraugu ģenerēšanai, īpaši, ja tiešās aprēķināšanas ir neiespējamas. Tas veido Markova ķēdi, kas laika gaitā tuvojas mērķa sadalījumam.

Galvenās MCMC metodes:

• Metropolis-Hastings: pamata algoritms, kas ģenerē kandidātus nākamajai stāvokļa pozīcijai un pieņem tos ar noteiktu varbūtību, nodrošinot konverģenci uz vēlamo sadalījumu.

• Gibsa paraugošana: īpašs Metropolis-Hastings gadījums, kur katrs parametrs tiek atjaunināts secīgi no nosacītā sadalījuma, saglabājot pārējos parametrus nemainīgus. Ļoti efektīvs, ja nosacītie sadalījumi ir zināmi un vienkārši.

• Hamiltonian Monte Carlo (HMC): izmanto logaritma gradientus un Hamiltona dinamikas fizisko interpretāciju, lai efektīvāk izpētītu parametru telpu, samazinot nejaušas pastaigas un paātrinot konverģenci.

Šīs metodes plaši tiek izmantotas Bayes analīzē, Gausa procesos un Bayes optimizācijā sarežģītu posterior sadalījumu novērtēšanai.