Какво е вероятностно програмиране (PyMC, Stan, NumPyro)?

Вероятностното програмиране е подход към програмирането, който позволява да се описват статистически модели и автоматично да се извършват изводи за вероятностните разпределения на параметрите въз основа на данни. Технологии като PyMC, Stan, NumPyro предоставят инструменти за дефиниране на модели с несигурности и извършване на байесови изводи.

Основната идея е, че вместо фиксирани стойности за параметрите на модела, се задават вероятностни разпределения, а след това с помощта на методи като MCMC (Markov Chain Monte Carlo) или вариационни методи се изчисляват апостериорните разпределения на параметрите.

Това е особено полезно в задачи, където е важно да се вземе предвид несигурността, например в байесова оптимизация (BO), гаусови процеси (GP) и други области на машинното обучение.

Пример: в PyMC може да се дефинира модел с нормално разпределение за параметър и наблюдавани данни, а след това да се получи разпределението на параметъра:

import pymc as pm
import numpy as np

with pm.Model() as model:
    mu = pm.Normal('mu', mu=0, sigma=1)
    obs = pm.Normal('obs', mu=mu, sigma=1, observed=np.array([1.0, 2.0, 1.5]))
    trace = pm.sample()

pm.plot_posterior(trace, var_names=['mu'])

По този начин, вероятностното програмиране улеснява изграждането на сложни статистически модели и извеждането на изводи с вземане предвид на несигурността.