Сформулируйте задачу Maximum Likelihood Estimation и запишите формулу.

Задача Maximum Likelihood Estimation (MLE) заключается в поиске таких параметров модели, при которых наблюдаемые данные становятся наиболее вероятными. Формально, для набора данных ( X = \{x_1, x_2, ..., x_n\} ) и параметров модели ( \theta ), MLE ищет ( \hat{\theta} ), максимизирующий функцию правдоподобия:

[ \hat{\theta} = \arg\max_{\theta} L(\theta | X) = \arg\max_{\theta} \prod_{i=1}^n p(x_i | \theta) ]

Часто удобнее работать с логарифмом функции правдоподобия:

[ \hat{\theta} = \arg\max_{\theta} \sum_{i=1}^n \log p(x_i | \theta) ]