Sobes.tech
Junior — Middle

Ի՞նչ է BERTScore-ը և ինչու է այն ավելի լավ, քան BLEU-ն գեներացման գնահատման համար։

sobes.tech AI

Պատասխան AI-ից

BERTScore — դա մի չափանիշ է գեներացված տեքստի որակն գնահատելու համար, որը հիմնված է գեներացված և ռեֆերենս տեքստերի միջև սեմանտիկ նմանության վրա: Բարբարից BLEU-ի, որը համեմատում է n-գրամների ճշգրիտ համապատասխանությունները, BERTScore-ը օգտագործում է BERT մոդելի բառային ներդրումները՝ կոսինուս նմանությունը հաշվարկելու համար:

BERTScore-ի առավելությունները BLEU-ի նկատմամբ՝

  • Նկատում է սեմանտիկան, ոչ միայն մակերեսային համապատասխանությունները:
  • Կարող է գնահատել սինոնիմ և պառաֆրազացված տարբերակները, որոնք BLEU-ն կարող է թերագնահատել:
  • Ավելի դիմացկուն է լեզվական փոփոխությունների և բառերի փոխատեղումների նկատմամբ:

Օրինակ՝ եթե գեներացված տեքստը փոխանցում է նույն իմաստը, բայց այլ բառերով, BLEU-ն կարող է ցածր գնահատական տալ, իսկ BERTScore-ը՝ բարձր, ինչը արտացոլում է իրական որակը:

Այսպիսով, BERTScore-ը ավելի հարմար է գեներատիվ մոդելների գնահատման համար, որտեղ կարևոր է սեմանտիկ մոտությունը, ոչ թե բառային համապատասխանությունը: