¿Qué es Bayes empírico?

Empirical Bayes es un enfoque en la estadística bayesiana en el que los hiperparámetros de la distribución a priori se estiman a partir de los datos, en lugar de establecerse de antemano. Es decir, en lugar de un priori fijo, sus parámetros se ajustan empíricamente a partir de las observaciones.

A diferencia del enfoque bayesiano clásico, donde el priori se establece independientemente de los datos, empirical Bayes utiliza los datos para ajustar el priori, lo que a menudo simplifica los cálculos y aumenta la adaptabilidad del modelo.

Un ejemplo de aplicación es en Gaussian Process (GP) y Bayesian Optimization (BO), donde los hiperparámetros del núcleo o del modelo de ruido se ajustan en función de los datos de entrenamiento, mejorando la calidad de las predicciones y la optimización.

De esta manera, empirical Bayes combina las ventajas del enfoque bayesiano con una evaluación práctica de los parámetros a partir de los datos.