Sobes.tech
Senior

Kas yra Jelinek-Mercer glotninimas?

sobes.tech AI

Atsakymas iš AI

Jelinek-Mercer sklandymas — tai būdas glotninti tikimybes kalbos modeliuose, naudojamas spręsti nulinės tikimybės problemą retų arba nematytų frazių atveju. Jis grindžiamas tiesinės interpolacijos metodais, apimančiais tikslesnius ir bendresnius modelių tikimybių įvertinimus.

Idėja ta, kad žodžio tikimybė kontekste apskaičiuojama kaip svertinė sumos iš specifinio modelio (pvz., bigramų) ir bendresnio modelio (pvz., unigramų) tikimybių.

Formulė:

P_{JM}(w_i|w_{i-1}) = \lambda P_{ML}(w_i|w_{i-1}) + (1 - \lambda) P_{ML}(w_i)

kur:

  • (P_{ML}) yra maksimali tikimybės įvertinimo (MLE),
  • (\lambda) yra glotnintojas parametras (0 ≤ (\lambda) ≤ 1).

Tai padeda išvengti nulinės tikimybės ir pagerinti kalbos modelio kokybę, ypač dirbant su ribotais duomenimis.