Qu'est-ce que l'approximation de champ moyen?

L'approximation de champ moyen est une méthode d'approximation en physique statistique et en apprentissage automatique, qui simplifie les modèles probabilistes complexes avec un grand nombre de variables dépendantes. L'idée est de remplacer les interactions entre variables par un effet moyen, c'est-à-dire supposer que chaque variable interagit avec un 'champ moyen' généré par les autres.

Dans le contexte des modèles bayésiens et de l'inférence variationnelle, l'approximation de champ moyen permet d'approximer une distribution conjointe complexe par une distribution factorisée, où les variables sont considérées comme indépendantes. Cela simplifie considérablement les calculs et permet de trouver efficacement des solutions approximatives.

Exemple : en inférence bayésienne variationnelle, nous cherchons une distribution q qui se factorise par variables : q(x, y) = q(x) q(y), au lieu de la distribution conjointe complexe p(x, y | données). Cette simplification est appelée approximation de champ moyen.