Διαμορφώστε το πρόβλημα της Εκτίμησης Μέγιστης Πιθανότητας και γράψτε τον τύπο.

Η εκτίμηση μέγιστης πιθανοφάνειας (MLE) αποτελεί την εύρεση των παραμέτρων του μοντέλου που καθιστούν τα παρατηρούμενα δεδομένα τα πιο πιθανό. Τυπικά, για ένα σύνολο δεδομένων ( X = {x_1, x_2, ..., x_n} ) και παραμέτρους του μοντέλου ( \theta ), η MLE αναζητά ( \hat{\theta} ), που μεγιστοποιεί τη συνάρτηση πιθανοφάνειας:

[ \hat{\theta} = \arg\max_{\theta} L(\theta | X) = \arg\max_{\theta} \prod_{i=1}^n p(x_i | \theta) ]

Είναι συχνά πιο βολικό να εργαζόμαστε με το λογάριθμο της συνάρτησης πιθανοφάνειας:

[ \hat{\theta} = \arg\max_{\theta} \sum_{i=1}^n \log p(x_i | \theta) ]