Was ist MCMC und welche Methoden (Metropolis-Hastings, Gibbs, HMC)?

MCMC (Markov-Ketten Monte Carlo) ist eine Klasse von Algorithmen zur Erzeugung von Stichproben aus komplexen Verteilungen, insbesondere wenn eine direkte Berechnung unmöglich ist. Es baut eine Markov-Kette auf, die mit der Zeit zur Zielverteilung konvergiert.

Hauptmethoden des MCMC:

• Metropolis-Hastings: Grundalgorithmus, der Kandidaten für den nächsten Zustand generiert und sie mit einer bestimmten Wahrscheinlichkeit akzeptiert, um die Konvergenz zur gewünschten Verteilung zu gewährleisten.

• Gibbs-Sampling: spezieller Fall von Metropolis-Hastings, bei dem jeder Parameter nacheinander aus der bedingten Verteilung aktualisiert wird, wobei die anderen Parameter fixiert bleiben. Besonders effektiv, wenn die bedingten Verteilungen bekannt und einfach sind.

• Hamiltonian Monte Carlo (HMC): nutzt die Gradienten der Logarithmus der Zielverteilung und die physikalische Interpretation der Hamilton-Dynamik, um den Parameterraum effizienter zu erkunden, wodurch zufällige Wanderungen reduziert und die Konvergenz beschleunigt werden.

Diese Methoden werden häufig in der bayesianischen Inferenz, Gaussian-Prozessen und Bayesian-Optimierung eingesetzt, um komplexe a-posteriori-Verteilungen zu schätzen.