Bayesian Optimizasyonu ve edinim fonksiyonları (EI, UCB, PI) nedir?

Bayesyen Optimizasyon, hesaplaması maliyetli veya analitik formu olmayan karmaşık fonksiyonların optimizasyonu için kullanılan bir yöntemdir. Genellikle bir Gaussian süreci olan olasılık temelli bir modeli kullanarak hedef fonksiyonu yaklaşıklaştırır ve keşif (exploration) ile sömürü (exploitation) arasında denge kurarak sonraki değerlendirme noktalarını seçer.

Edinim fonksiyonları, mevcut modele dayanarak, bir sonraki deneyi nerede yapmanın uygun olduğunu belirleyen fonksiyonlardır. Bu fonksiyonlar, modelin tahminlerini, nokta seçim kriterine dönüştürür.

Ana edinim fonksiyonları:

• Expected Improvement (EI) — mevcut en iyi değere kıyasla beklenen iyileşme. Maksimum iyileşmenin beklendiği noktaları seçer.

• Upper Confidence Bound (UCB) — ortalama tahmin ile belirsizliği (varyansı) bir katsayıyla birleştirir ve keşif ile sömürü arasında denge kurar. Formülü genellikle şöyledir: UCB(x) = μ(x) + κ·σ(x), burada κ bir parametredir.

• Probability of Improvement (PI) — x noktasında fonksiyonun mevcut en iyi sonucu aşma olasılığı.

Bu şekilde, Bayesyen Optimizasyon, modeli ve edinim fonksiyonunu kullanarak en umut verici noktaları seçerek fonksiyonun maksimum veya minimumunu etkin bir şekilde arar.