DoRA nədir və o, LoRA-dan necə fərqlənir?

DoRA (Domenə yönümlü Geri Çağırma Artırması) və LoRA (Aşağı Rütbəli Uyğunsuzluq) böyük dil modellərinin uyğunlaşdırılması üçün metodlardır, lakin fərqli yanaşmalarla.

• LoRA modelin incə tənzimlənməsi metodudur, modelin çəkilərinə aşağı rütbəli matrislər əlavə edir, bu da bütün parametrləri dəyişdirmədən modeli effektiv şəkildə uyğunlaşdırmağa imkan verir.

• DoRA isə modelin xarici mənbələrdən (geri çağırış) əlaqəli məlumatların inteqrasiyası ilə inkişaf etdirməyə yönəlmiş bir metoddur, müəyyən bir sahəyə (domen) yönəlib. Bu, modelin aktual məlumatlardan istifadə edərək cavablar yaratmasına imkan verir.

Beləliklə, LoRA modelin parametrik uyğunlaşdırma texnikasıdır, DoRA isə xarici biliklər vasitəsilə modeli genişləndirən yanaşmadır.