LoRA birləşməsi nədir və necə bir neçə adapteri birləşdirmək olar?

LoRA birləşməsi — bu, LoRA (Low-Rank Adaptation) adaptörlərinin birləşdirilməsi prosesidir; bunlar, böyük dil modellərini (LLM) minimal çəki dəyişiklikləri ilə tənzimləmək üçün yüngül modullardır.

Hər bir LoRA adaptörü müəyyən bir vəzifə və ya məlumat dəstində öyrədilir və birləşmə, müxtəlif adaptörlərdən bilikləri bir modeldə birləşdirməyə imkan verir, onu sıfırdan yenidən öyrətməyə ehtiyac olmadan.

Bir neçə adaptörü necə birləşdirmək:

1. Adaptörlərin çəkilərini əldə edin: Hər bir LoRA adaptörü, çəkilərini aşağı-rütbəli matrislər şəklində saxlayır.
2. Çəki toplama: Çəki birləşdirmək üçün, onların matrisləri, hər adaptörün töhfəsini tənzimləyə biləcək koeffisiyentlər (ağırlıqlar) nəzərə alınmaqla toplanır.
3. Modeli yeniləyin: Əldə olunan birləşdirilmiş çəkilər əsas modelə inteqrasiya olunur.

Psevdokod nümunəsi:

merged_weights = alpha1 * lora_weights1 + alpha2 * lora_weights2 + ...
model.update_weights(merged_weights)

Burada alpha1, alpha2 hər adaptörün təsirini tənzimləyən koeffisiyentlərdir.

Bu şəkildə, LoRA birləşməsi, müxtəlif adaptörlərdən bilikləri səmərəli şəkildə birləşdirməyə və modelin çoxsaylı vəzifələrdə performansını artırmağa imkan verir, tam yenidən öyrətməyə ehtiyac olmadan.