Qu'est-ce que le MCMC et quelles sont les méthodes (Metropolis-Hastings, Gibbs, HMC) ?

MCMC (Chaîne de Markov Monte Carlo) est une classe d’algorithmes pour générer des échantillons à partir de distributions complexes, en particulier lorsque le calcul direct est impossible. Il construit une chaîne de Markov qui converge avec le temps vers la distribution cible.

Principales méthodes MCMC :

• Metropolis-Hastings : algorithme de base qui génère des candidats pour l’état suivant et les accepte avec une certaine probabilité, assurant la convergence vers la distribution souhaitée.

• Échantillonnage de Gibbs : cas particulier de Metropolis-Hastings, où chaque paramètre est mis à jour successivement à partir de la distribution conditionnelle en maintenant les autres paramètres fixes. Particulièrement efficace si les distributions conditionnelles sont connues et simples.

• Monte Carlo Hamiltonien (HMC) : utilise les gradients du logarithme de la distribution cible et l’interprétation physique de la dynamique de Hamilton pour explorer plus efficacement l’espace des paramètres, réduisant les errances aléatoires et accélérant la convergence.

Ces méthodes sont largement utilisées en inférence bayésienne, Processus Gaussiens et Optimisation Bayésienne pour l’évaluation de distributions a posteriori complexes.