Was ist die Mean-Field-Approximation?

Die Mean-Field-Approximation ist eine Methode der Näherung in der statistischen Physik und im maschinellen Lernen, die komplexe probabilistische Modelle mit einer großen Anzahl abhängiger Variablen vereinfacht. Die Idee ist, die Wechselwirkungen zwischen Variablen durch einen Durchschnittseffekt zu ersetzen, also anzunehmen, dass jede Variable mit einem 'mittleren Feld' interagiert, das von den anderen erzeugt wird.

Im Kontext bayesscher Modelle und variationaler Inferenz ermöglicht die Mean-Field-Approximation die Annäherung an eine komplexe gemeinsame Verteilung durch eine faktorielle Verteilung, bei der die Variablen als unabhängig betrachtet werden. Dies vereinfacht die Berechnungen erheblich und ermöglicht es, effizient approximative Lösungen zu finden.

Beispiel: Bei der variationalen bayesschen Inferenz suchen wir eine Verteilung q, die sich nach Variablen faktorisiert: q(x, y) = q(x) q(y), anstelle der komplexen gemeinsamen Verteilung p(x, y | Daten). Diese Vereinfachung wird als Mean-Field-Approximation bezeichnet.