Kas ir empīriskais Bayes?

Empirical Bayes ir pieeja bayesiskajā statistikā, kur hiperparametriem pirmskārtojuma sadalījumā tiek novērtēti, pamatojoties uz datiem, nevis iepriekš noteikti. Citiem vārdiem sakot, vietā fiksētajam prioram, tā parametri tiek empīriski izvēlēti no novērojumiem.

Atšķirībā no klasiskās bayesiskās pieejas, kur priora ir noteikta neatkarīgi no datiem, empirical Bayes izmanto datus priora pielāgošanai, kas bieži vien vienkāršo aprēķinus un palielina modeļa pielāgošanās spēju.

Piemērs pielietošanā ir Gaussian Process (GP) un Bayesian Optimization (BO), kur kodola vai trokšņa modeļa hiperparametri tiek pielāgoti, balstoties uz apmācības datiem, uzlabojot prognožu un optimizācijas kvalitāti.

Tādējādi, empirical Bayes apvieno bayesiskās pieejas priekšrocības ar praktisku parametru novērtējumu no datiem.