Что такое метод максимального правдоподобия?

Метод максимального правдоподобия (Maximum Likelihood Estimation, MLE) — это способ оценки параметров статистической модели, при котором выбираются такие значения параметров, которые максимизируют вероятность (правдоподобие) наблюдаемых данных.

Идея в том, что мы считаем данные фиксированными, а параметры — переменными, и ищем параметры, при которых вероятность получить именно эти данные максимальна.

Пример: пусть у нас есть выборка из нормального распределения с неизвестными средним μ и дисперсией σ². Метод максимального правдоподобия позволит найти оценки μ и σ², которые делают наблюдаемые данные наиболее вероятными.

В машинном обучении MLE часто используется для обучения моделей, например, в логистической регрессии или наивном байесовском классификаторе.