Jelinek-Mercer тегиздөө деген эмне?

Jelinek-Mercer жумшактоо — бул тил моделдеринде мүмкүнчүлүктөрдү жумшартуунун ыкмасы, ал сирек же көрүлбөгөн сөз айкаштары үчүн нөл мүмкүнчүлүк маселесин чечүү үчүн колдонулат. Ал көбүрөөк так жана жалпы моделдерден мүмкүнчүлүктөрдүн сызыктуу интерполяциясына негизделген.

Идеясы — контексттеги сөздүн мүмкүнчүлүгү белгилүү бир моделден (мисалы, биграмдар) жана көбүрөөк жалпы моделден (мисалы, unigramдар) алынган мүмкүнчүлүктөрдүн салмактуу жыйындысы катары эсептелет. Салмак (лямбда) ар бир моделге канчалык ишенебизди аныктайт.

Формула:

P_{JM}(w_i|w_{i-1}) = \lambda P_{ML}(w_i|w_{i-1}) + (1 - \lambda) P_{ML}(w_i)

башта:

• (P_{ML}) — максималдуу ишенимдүүлүк баалоо (MLE),
• (\lambda) — жумшартуу параметри (0 ≤ (\lambda) ≤ 1).

Бул нөл мүмкүнчүлүктөрдөн качууга жана тил моделинин сапатын жакшыртууга жардам берет, өзгөчө чектелген маалыматтар менен иштегенде.