Co je to pravděpodobnostní programování (PyMC, Stan, NumPyro)?

Pravděpodobnostní programování je přístup k programování, který umožňuje popis statistických modelů a automatické provádění inferencí o pravděpodobnostních rozděleních parametrů na základě dat. Frameworky jako PyMC, Stan, NumPyro nabízejí nástroje pro definování modelů s nejistotami a provádění bayesovských inferencí.

Hlavní myšlenkou je, že místo pevných hodnot parametrů modelu jsou přiřazena pravděpodobnostní rozdělení, a poté pomocí metod jako MCMC (Markov Chain Monte Carlo) nebo variacionálních metod se vypočítají posteriorní rozdělení parametrů.

To je obzvlášť užitečné v úlohách, kde je důležité zohlednit nejistotu, například v bayesovské optimalizaci (BO), gaussovských procesech (GP) a dalších oblastech strojového učení.

Příklad: v PyMC lze definovat model s normálním rozdělením pro parametr a pozorovanými daty, a poté získat rozdělení parametru:

import pymc as pm
import numpy as np

with pm.Model() as model:
    mu = pm.Normal('mu', mu=0, sigma=1)
    obs = pm.Normal('obs', mu=mu, sigma=1, observed=np.array([1.0, 2.0, 1.5]))
    trace = pm.sample()

pm.plot_posterior(trace, var_names=['mu'])

Tímto způsobem zjednodušuje pravděpodobnostní programování tvorbu složitých statistických modelů a získávání inferencí s ohledem na nejistotu.