Co je to Bayesovská optimalizace a funkce akvizice (EI, UCB, PI)?

Bayesovská optimalizace je metoda optimalizace složitých funkcí, které jsou drahé na výpočet nebo nemají analytickou formu. Používá pravděpodobnostní model (obvykle gaussovský proces) k aproximaci cílové funkce a vybírá další body k hodnocení, přičemž vyvažuje mezi průzkumem (exploration) a využitím (exploitation).

Funkce získávání jsou funkce, které na základě aktuálního modelu určují, kde provést další experiment. Převádějí předpovědi modelu na kritérium výběru bodu.

Hlavní funkce získávání:

• Expected Improvement (EI) — očekávané zlepšení ve srovnání s aktuálně nejlepším hodnotou. Vybere body, kde se očekává maximální zlepšení.

• Upper Confidence Bound (UCB) — kombinuje průměrné předpovědi a nejistotu (rozptyl) s koeficientem, což umožňuje vyvážení mezi průzkumem a využitím. Vzorec je obvykle: UCB(x) = μ(x) + κ·σ(x), kde κ je parametr.

• Probability of Improvement (PI) — pravděpodobnost, že v bodě x funkce překoná aktuální nejlepší výsledek.

Tímto způsobem Bayesovská optimalizace efektivně hledá maximum nebo minimum funkce pomocí modelu a funkce získávání pro výběr nejperspektivnějších bodů k hodnocení.