Čo je pravdepodobnostné programovanie (PyMC, Stan, NumPyro)?

Pravdepodobnostné programovanie je prístup k programovaniu, ktorý umožňuje opis štatistických modelov a automatické vykonávanie záverov o pravdepodobnostných rozdeleniach parametrov na základe údajov. Frameworky ako PyMC, Stan, NumPyro ponúkajú nástroje na definovanie modelov s neistotami a vykonávanie bayesovského záveru.

Hlavná myšlienka je, že namiesto pevných hodnôt parametrov modelu sa priraďujú pravdepodobnostné rozdelenia, a potom pomocou metód ako MCMC (Markov Chain Monte Carlo) alebo variacionálnych metód sa vypočítajú posteriorné rozdelenia parametrov.

Toto je obzvlášť užitočné v úlohách, kde je dôležité zohľadniť neistotu, napríklad v bayesovskej optimalizácii (BO), gaussovských procesoch (GP) a ďalších oblastiach strojového učenia.

Príklad: v PyMC je možné definovať model s normálnym rozdelením pre parameter a pozorovanými údajmi, a potom získať rozdelenie parametra:

import pymc as pm
import numpy as np

with pm.Model() as model:
    mu = pm.Normal('mu', mu=0, sigma=1)
    obs = pm.Normal('obs', mu=mu, sigma=1, observed=np.array([1.0, 2.0, 1.5]))
    trace = pm.sample()

pm.plot_posterior(trace, var_names=['mu'])

Týmto spôsobom, pravdepodobnostné programovanie zjednodušuje tvorbu zložitých štatistických modelov a získavanie záverov s prihliadnutím na neistotu.