Jelinek-Mercer yumşaltması nədir?

Jelinek-Mercer yumshatması — bu, till modellərində ehtimolların yumşaldılması üsuludur və nadir və ya qarşılaşılmayan ifadələr üçün sıfır ehtimol problemini həll etmək üçün istifadə olunur. Bu, daha spesifik və daha ümumi modellərdən ehtimalların xətti interpolasiyasına əsaslanır.

Fikir odur ki, kontekstdə söz ehtimalı, müəyyən bir modelə (məsələn, bigramlar) və daha ümumi bir modelə (məsələn, unigramlar) görə ehtimalların çəkili cəmidir. Çəki (lambda) hər bir modelə nə qədər güvəndiyimizi müəyyən edir.

Formul:

P_{JM}(w_i|w_{i-1}) = \lambda P_{ML}(w_i|w_{i-1}) + (1 - \lambda) P_{ML}(w_i)

burada:

• (P_{ML}) ehtimalın maksimum ehtimallıq qiymətləndirilməsi (MLE),
• (\lambda) yumşaltma parametridir (0 ≤ (\lambda) ≤ 1).

Bu, sıfır ehtimalları qarşısını almağa və dil modelinin keyfiyyətini artırmağa kömək edir, xüsusən məhdud məlumatlarla işləyərkən.