Kas ir Jelinek-Mercer gludināšana?

Jelinek-Mercer glāšana — tā ir metodes, kas izmanto lineāru interpolāciju, lai glābtu varbūtības valodu modeļos, risinot nulle varbūtības problēmu retām vai neizmantotām frāzēm. Tā balstās uz specifiskāku un vispārīgāku modeļu varbūtību novērtējumu lineāru interpolāciju.

Ideja ir tāda, ka vārda varbūtība kontekstā tiek aprēķināta kā sverta summa no modeļa (piemēram, bigramu) un vispārīgāka modeļa (piemēram, unigramu) varbūtībām. Svars (lambda) nosaka, cik ļoti mēs uzticamies katram modelim.

Formula:

P_{JM}(w_i|w_{i-1}) = \lambda P_{ML}(w_i|w_{i-1}) + (1 - \lambda) P_{ML}(w_i)

kur:

• (P_{ML}) ir maksimālās varbūtības novērtējums (MLE),
• (\lambda) ir glāšanas parametrs (0 ≤ (\lambda) ≤ 1).

Tas palīdz izvairīties no nulles varbūtībām un uzlabot valodas modeļa kvalitāti, īpaši strādājot ar ierobežotiem datiem.