LoRA միացման ինչ է և ինչպես միացնել մի քանի ադապտերներ?

LoRA միակցումը՝ դա մի գործընթաց է, որը միավորում է մի քանի LoRA (Low-Rank Adaptation) ադապտերներ, որոնք հանդիսանում են թեթև մոդուլներ մեծ լեզվական մոդելների (LLM) հարմարեցման համար՝ նվազագույն քաշային փոփոխություններով:

Յուրաքանչյուր LoRA ադապտեր սովորեցվում է հատուկ խնդիր կամ տվյալների հավաքածուի վրա, և միակցումը թույլ է տալիս համակցել տարբեր ադապտերներից գիտելիքները մեկ մոդելում՝ առանց այն նորից վերապատրաստելու:

Ինչպես միացնել մի քանի ադապտերներ՝

1. Ադապտերների քաշերը ստանալ: Յուրաքանչյուր LoRA ադապտեր պահում է իր քաշերը ցածր կարգի մատրիցների տեսքով:
2. Քաշերի գումարում: Քաշերը միացնելու համար, նրանց մատրիցները գումարվում են՝ հաշվի առնելով գործակիցներ (քաշեր), որոնք կարող են կարգավորել յուրաքանչյուր ադապտերի ներդրումը:
3. Մոդելի թարմացում: Ստացված միացրած քաշերը ինտեգրվում են հիմնական մոդելին:

Օրինակ՝ պսևդոկոդ:

merged_weights = alpha1 * lora_weights1 + alpha2 * lora_weights2 + ...
model.update_weights(merged_weights)

Որտեղ՝ alpha1, alpha2 — գործակիցներ, որոնք ազդում են յուրաքանչյուր ադապտերի վրա:

Այս կերպ, LoRA միակցումը թույլ է տալիս արդյունավետորեն համակցել տարբեր ադապտերներից գիտելիքները և բարելավել մոդելի կատարողականությունը մի քանի խնդիրներում՝ առանց լրիվ վերապատրաստման անհրաժեշտության։