Mis on MCMC ja millised on meetodid (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markovi kettide Monte Carlo) on algoritmide klass, mis on mõeldud keerulistest jaotustest näidiste genereerimiseks, eriti kui otsene arvutamine on võimatu. See ehitab Markovi kett, mis aja jooksul läheneb sihtjaotusele.

MCMC peamised meetodid:

• Metropolis-Hastings: põhiline algoritm, mis genereerib kandidaate järgmise oleku jaoks ja aktsepteerib neid teatud tõenäosusega, tagades lähenemise soovitud jaotusele.

• Gibbs'i näidistamine: Metropolis-Hastings'i erijuht, kus iga parameeter uuendatakse järjest tinglikust jaotusest, hoides teisi parameetreid fikseeritud. On eriti tõhus, kui tinglikud jaotused on teada ja lihtsad.

• Hamiltonian Monte Carlo (HMC): kasutab sihtjaotuse logaritmi gradientide ja Hamiltoni dünaamika füüsikalist tõlgendust, et tõhusamalt uurida parameetrite ruumi, vähendades juhuslikke jalutuskäike ja kiirendades lähenemist.

Need meetodid on laialdaselt kasutusel bayeslikus järelduses, Gaussi protsessides ja bayeslikus optimeerimises keeruliste posterior jaotuste hindamiseks.