Čo je MCMC a aké sú metódy (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markov lančana Monte Carlo) je klasa algoritama za generisanje uzoraka iz složenih raspodela, posebno kada je direktno računanje nemoguće. On gradi Markov lanac koji s vremenom konvergira ka ciljnoj raspodeli.

Glavne metode MCMC:

• Metropolis-Hastings: osnovni algoritam koji generiše kandidate za sledeće stanje i ih prihvata sa određenom verovatnoćom, obezbeđujući konvergenciju ka željenoj raspodeli.

• Gibbs uzorkovanje: poseban slučaj Metropolis-Hastings, gde se svaki parametar sukcesivno ažurira iz uslovne raspodele, dok su ostali parametri fiksni. Posebno je efikasno ako su uslovne raspodele poznate i jednostavne.

• Hamiltonian Monte Carlo (HMC): koristi gradijente logaritma ciljane raspodele i fizičku interpretaciju Hamiltonove dinamike za efikasnije istraživanje prostora parametara, smanjujući slučajne šetnje i ubrzavajući konvergenciju.

Ove metode se široko primenjuju u bayesovom zaključivanju, Gaussian procesima i bayesovoj optimizaciji za procenu složenih posteriornih raspodela.