O que é Otimização Bayesiana e funções de aquisição (EI, UCB, PI)?

A Otimização Bayesiana é um método de otimização de funções complexas, que são caras de avaliar ou que não possuem uma forma analítica. Ela usa um modelo probabilístico (geralmente um processo gaussiano) para aproximar a função objetivo e seleciona os próximos pontos para avaliação, equilibrando entre exploração e exploração.

As funções de aquisição são funções que, com base no modelo atual, determinam onde realizar o próximo experimento. Elas transformam as previsões do modelo em um critério para escolher o ponto.

Principais funções de aquisição:

• Expected Improvement (EI) — melhoria esperada em relação ao melhor valor atual. Escolhe pontos onde se espera uma melhoria máxima.

• Upper Confidence Bound (UCB) — combina a previsão média e a incerteza (variância) com um coeficiente, permitindo equilibrar entre exploração e exploração. A fórmula geralmente é: UCB(x) = μ(x) + κ·σ(x), onde κ é um parâmetro.

• Probability of Improvement (PI) — probabilidade de que, no ponto x, a função supere o melhor resultado atual.

Assim, a Otimização Bayesiana busca eficientemente o máximo ou mínimo de uma função, usando um modelo e uma função de aquisição para selecionar os pontos mais promissores para avaliação.