Em que se diferencia VI de MCMC em termos de trade-off?

Inferência Variacional (VI) e Cadeia de Markov Monte Carlo (MCMC) são duas abordagens principais para aproximar distribuições posteriores complexas em modelos bayesianos, e elas diferem na troca entre precisão e eficiência computacional.

• MCMC fornece amostras assintoticamente precisas da distribuição posterior, mas muitas vezes requer muito tempo de cálculo e pode não escalar bem para grandes conjuntos de dados ou modelos complexos.

• VI transforma a tarefa de aproximação em uma otimização, o que geralmente é mais rápido e escalável, mas a aproximação pode ser menos precisa e depende da família de distribuições variacionais escolhida.

Portanto, a compensação é a seguinte:

Método	Precisão	Eficiência computacional	Escalabilidade
MCMC	Alta (assintoticamente precisa)	Baixa (cálculos caros)	Limitada
VI	Média (depende da aproximação)	Alta (otimização rápida)	Boa

A escolha entre eles depende dos requisitos de precisão e recursos. Em tarefas com tempo limitado e grandes conjuntos de dados, muitas vezes escolhe-se VI, e para uma análise mais precisa, MCMC.