O que são distribuições conjugadas e por que são convenientes?

Distribuições conjugadas são pares de distribuições em que a distribuição posterior pertence à mesma família que a priori, após a atualização com base nos dados observados.

Isso é conveniente porque permite calcular analiticamente a distribuição posterior sem métodos numéricos complexos, o que simplifica significativamente a inferência bayesiana.

Por exemplo, se a distribuição a priori do parâmetro é uma distribuição beta e os dados são binomiais, então a distribuição posterior também será uma distribuição beta com parâmetros atualizados.

Em tarefas de aprendizado de máquina e modelos bayesianos, o uso de distribuições conjugadas acelera o treinamento e simplifica os cálculos, o que é especialmente importante em Processos Gaussianos (GP) e Otimização Bayesiana (BO).