Čo je Bayesovská optimalizácia a funkcie akvizície (EI, UCB, PI)?

Bayesovská optimalizácia je metóda optimalizácie zložitých funkcií, ktoré sú drahé na výpočet alebo nemajú analytickú formu. Používa pravdepodobnostný model (zvyčajne Gaussov proces) na približovanie cieľovej funkcie a vyberá ďalšie body na hodnotenie, pričom vyvažuje medzi prieskumom (exploration) a využitím (exploitation).

Funkcie získavania sú funkcie, ktoré na základe aktuálneho modelu určujú, kde vykonať ďalší experiment. Transformujú predpovede modelu na kritérium výberu bodu.

Hlavné funkcie získavania:

• Expected Improvement (EI) — očakávané zlepšenie v porovnaní s aktuálne najlepšou hodnotou. Vyberá body, kde sa očakáva maximálne zlepšenie.

• Upper Confidence Bound (UCB) — kombinuje priemerné predpovede a neistotu (rozptyl) s koeficientom, čo umožňuje vyváženie medzi prieskumom a využitím. Vzorec je zvyčajne: UCB(x) = μ(x) + κ·σ(x), kde κ je parameter.

• Probability of Improvement (PI) — pravdepodobnosť, že v bode x funkcia prekročí aktuálny najlepší výsledok.

Týmto spôsobom bayesovská optimalizácia efektívne hľadá maximum alebo minimum funkcie, využívajúc model a funkciu získavania na výber najperspektívnejších bodov na hodnotenie.