LoRA birlashuvi nima va bir nechta adapterlarni qanday birlashtirish mumkin?

LoRA қўшилиши — бу — бир неча LoRA (Low-Rank Adaptation) адаптерларини бирлаштириш жараёни бўлиб, улар — катта тил моделларини (LLM) миним ўзгартиришлар билан тайёрлаш учун енгил модуллар.

Ҳар бир LoRA адаптери муайян вазифа ёки маълумотлар тўпламида ўргатилади, ва бирлаштириш турли адаптерлардан билимларни бир модельда бирлаштиришга имкон беради, уни нолдан қайта ўргатишга эҳтиёж йўқ.

Қандай қилиб бир нечта адаптерларни бирлаштириш:

1. Адаптерлар вазнларини олиш: Ҳар бир LoRA адаптери ўз вазнларини паст-рақамли матрицалар шаклида сақлайди.
2. Вазнларни қўшиш: Вазирларни бирлаштириш учун, уларнинг матрицалари коэффициентлар (вагонлар) ҳисобга олинган ҳолда қўшилади.
3. Моделни янгилаш: Ҳосил бўлган бирлашган вазнлар асосий моделга интеграция қилинади.

Псевдокод мисоли:

merged_weights = alpha1 * lora_weights1 + alpha2 * lora_weights2 + ...
model.update_weights(merged_weights)

Бу ерда alpha1, alpha2 — ҳар бир адаптернинг таъсир кўрсатувчи коэффициентлари.

Шу тарзда, LoRA қўшилиши турли адаптерлардан билимларни самарали бирлаштиришга ва моделнинг ишлаш қобилиятини бир нечта вазифада оширишга имкон беради, тўлиқ қайта ўргатишга эҳтиёж йўқ.