Какво е MCMC и какви методи (Metropolis-Hastings, Gibbs, HMC)?

MCMC (верижна Марковска верига Монте Карло) е клас алгоритми за генериране на проби от сложни разпределения, особено когато директното изчисление е невъзможно. Той изгражда Марков верига, която с времето се сближава към целевото разпределение.

Основните методи на MCMC:

• Metropolis-Hastings: основен алгоритъм, който генерира кандидати за следното състояние и ги приема с определена вероятност, осигурявайки сближаване към желаното разпределение.

• Gibbs Sampling: специален случай на Metropolis-Hastings, при който всеки параметър се актуализира последователно от условното разпределение, като останалите параметри остават фиксирани. Особено ефективен, ако условните разпределения са известни и прости.

• Hamiltonian Monte Carlo (HMC): използва градиентите на логаритъма на целевото разпределение и физическата интерпретация на динамиката на Хамилтън за по-ефективно изследване на пространството на параметрите, намалявайки случайните разходки и ускорявайки сближаването.

Тези методи се прилагат широко в байесовите изводи, Gaussian процеси и Bayesian оптимизация за оценка на сложни постериорни разпределения.