Sobes.tech
Senior

Ի՞նչ է Jelinek-Mercer հարթեցումը։

sobes.tech AI

Պատասխան AI-ից

Ջելինեկ-Մերսեր սահմնավորումը — սա լեզվական մոդելներում հավանականությունների սահմնավորման մեթոդ է, որն օգտագործվում է հազվագյուտ կամ չտեսնված արտահայտությունների համար զրո հավանականության խնդիրը լուծելու համար: Այն հիմնված է ավելի հատուկ և ավելի ընդհանուր մոդելներից հավանականությունների գնահատումների գծային ինտերպոլացիայի վրա:

Իդեան այն է, որ խոսքի հավանականությունը համատեքստում հաշվվում է որպես հատուկ մոդելի (օրինակ, բիգրամներ) և ավելի ընդհանուր մոդելի (օրինակ, unigram) հավանականությունների քաշային գումար: Քաշը (լամբդա) որոշում է, թե որքան վստահ ենք յուրաքանչյուր մոդելի վրա:

Ֆորմուլա:

P_{JM}(w_i|w_{i-1}) = \lambda P_{ML}(w_i|w_{i-1}) + (1 - \lambda) P_{ML}(w_i)

որտեղ՝

  • (P_{ML}) է հավանականության առավելագույն հավանականության գնահատումը (MLE),
  • (\lambda) է սահմնավորման պարամետրը (0 ≤ (\lambda) ≤ 1):

Այս մեթոդը օգնում է խուսափել զրո հավանականություններից և բարելավել լեզվական մոդելի որակը, հատկապես محدود տվյալների դեպքում: