Cosa sono le distribuzioni coniugate e perché sono comode?

Le distribuzioni coniugate sono coppie di distribuzioni in cui la distribuzione a posteriori appartiene alla stessa famiglia di quella a priori, dopo l'aggiornamento basato sui dati osservati.

Questo è conveniente perché permette di calcolare analiticamente la distribuzione a posteriori senza metodi numerici complessi, semplificando notevolmente l'inferenza bayesiana.

Ad esempio, se la distribuzione a priori del parametro è una distribuzione beta e i dati sono binomiali, allora la distribuzione a posteriori sarà anch'essa una distribuzione beta con parametri aggiornati.

Nelle attività di machine learning e nei modelli bayesiani, l'uso di distribuzioni coniugate accelera l'addestramento e semplifica i calcoli, il che è particolarmente importante in Processi Gaussiani (GP) e Ottimizzazione Bayesiana (BO).