Τι είναι το MCMC και ποια είναι οι μέθοδοι (Metropolis-Hastings, Gibbs, HMC);

Το MCMC (Markov Chain Monte Carlo) είναι μια κατηγορία αλγορίθμων για τη δημιουργία δειγμάτων από πολύπλοκες κατανομές, ειδικά όταν ο άμεσος υπολογισμός είναι αδύνατος. Χτίζει μια αλυσίδα Markov που συγκλίνει με τον χρόνο στην επιθυμητή κατανομή.

Βασικές μέθοδοι του MCMC:

• Metropolis-Hastings: βασικός αλγόριθμος που δημιουργεί υποψηφίους για την επόμενη κατάσταση και τους αποδέχεται με μια ορισμένη πιθανότητα, διασφαλίζοντας τη σύγκλιση στην επιθυμητή κατανομή.

• Gibbs Sampling: ειδική περίπτωση του Metropolis-Hastings, όπου κάθε παράμετρος ενημερώνεται διαδοχικά από την κατανομή υπό όρους, διατηρώντας τις άλλες παραμέτρους σταθερές. Είναι ιδιαίτερα αποτελεσματικό αν οι κατανομές υπό όρους είναι γνωστές και απλές.

• Hamiltonian Monte Carlo (HMC): χρησιμοποιεί τα διανύσματα κλίσεων του λογαρίθμου της κατανομής στόχου και την φυσική ερμηνεία της δυναμικής του Hamilton για πιο αποδοτική εξερεύνηση του χώρου των παραμέτρων, μειώνοντας τις τυχαίες περιπλανήσεις και επιταχύνοντας τη σύγκλιση.

Αυτές οι μέθοδοι χρησιμοποιούνται ευρέως στην Bayesian απόδειξη, Gaussian Processes και Bayesian Optimization για την εκτίμηση πολύπλοκων κατανομών posterior.