Formulujte úlohu Maximum Likelihood Estimation a napíšte vzorec.

Metóda maximálnej pravdepodobnosti (MLE) spočíva v nájdení takých parametrov modelu, pri ktorých sú pozorované údaje najpravdepodobnejšie. Formálne, pre súbor údajov ( X = {x_1, x_2, ..., x_n} ) a parametre modelu ( \theta ), MLE hľadá ( \hat{\theta} ), ktorý maximalizuje funkciu pravdepodobnosti:

[ \hat{\theta} = \arg\max_{\theta} L(\theta | X) = \arg\max_{\theta} \prod_{i=1}^n p(x_i | \theta) ]

Častejšie je jednoduchšie pracovať s logaritmom funkcie pravdepodobnosti:

[ \hat{\theta} = \arg\max_{\theta} \sum_{i=1}^n \log p(x_i | \theta) ]