Чӣ гуна мултимедиявӣ embeddings ва чӣ гуна омӯзонида мешаванд (LaBSE)?

Инҷомҳои бисёрзабонӣ ин намоишҳои вектории калимаҳо ё ҷумлаҳо мебошанд, ки ба таври он таълим дода шудаанд, ки калимаҳои аз забонҳои гуногун бо маънии монанд дар як фазои умумӣ векторҳои наздик дошта бошанд. Ин имкон медиҳад, ки як модел барои коркарди матн дар чанд забон истифода шавад, ки барои вазифаҳои ҷустуҷӯ, кластерсозӣ ва тарҷума қулай аст.

LaBSE (Language-agnostic BERT Sentence Embedding) яке аз чунин моделҳо мебошад, ки аз ҷониби Google таҳия шудааст. Он дар зиёда аз якчанд матни параллел (сӯҳбатҳо) дар забонҳои гуногун бо истифода аз архитектураи BERT омӯзонида шудааст. Нақшаи асосӣ ин аст, ки фосила байни векторҳои ҷумлаҳои тарҷума ва фосила байни онҳое, ки тарҷума нашудаанд, кам карда шавад.

Таҳсилоти LaBSE дар бар мегирад:

• Истифодаи трансформатори дуҷониба (BERT) барои кодгирии ҷумлаҳо.
• Корпусҳои параллел (сӯҳбатҳо ва тарҷумаҳои онҳо) ҳамчун маълумоти омӯзишӣ.
• Оптимизатсия бо вазифаи максимизатсияи мувофиқат байни векторҳои ҷуфтҳои тарҷумашуда (масалан, бо истифода аз мувофиқатии косинус).

Натиҷа, модел векторҳои универсалӣ истеҳсол мекунад, ки барои ҷустуҷӯи бисёрзабонӣ, кластерсозӣ ва дигар вазифаҳои NLP истифода бурда мешаванд.