Mis on probabilistlik programmeerimine (PyMC, Stan, NumPyro)?

Võimalusprogrammimine on lähenemine programmeerimisel, mis võimaldab kirjeldada statistilisi mudeleid ja automaatselt teha järeldusi par parameetrite tõenäosusjaotuste põhjal andmete alusel. Raamistiku nagu PyMC, Stan, NumPyro pakuvad tööriistu mudelite määratlemiseks ebakindlustega ja bayeslikeks järeldusteks.

Põhiteooria on see, et mudeli parameetritele määratakse tõenäosusjaotused ning seejärel, kasutades meetodeid nagu MCMC (Markov Chain Monte Carlo) või variatsioonimeetodeid, arvutatakse parameetrite posteriorsaotused.

See on eriti kasulik ülesannetes, kus on oluline arvestada ebakindlust, näiteks bayeslikus optimeerimises (BO), Gaussi protsessides (GP) ja teistes masinõppe valdkondades.

Näide: PyMC-s saab määratleda mudeli normaalse jaotusega parameetri ja vaadeldavate andmetega ning seejärel saada parameetri jaotuse:

import pymc as pm
import numpy as np

with pm.Model() as model:
    mu = pm.Normal('mu', mu=0, sigma=1)
    obs = pm.Normal('obs', mu=mu, sigma=1, observed=np.array([1.0, 2.0, 1.5]))
    trace = pm.sample()

pm.plot_posterior(trace, var_names=['mu'])

Sellisel viisil lihtsustab tõenäosuslik programmeerimine keerukate statistiliste mudelite loomist ning järelduste tegemist ebakindluse arvestamisega.