რა არის LoRA და რატომ მუშაობს (დაბალი რანგის ჰიპოთეზა)?

LoRA (Low-Rank Adaptation) არის მეთოდი დიდი ენობრივი მოდელების (LLM) ფინული მორგებისთვის, რომელიც საშუალებას აძლევს მოდელს ეფექტურად ადაპტირდეს ახალი დავალებებისთვის მინიმალური რესურსებით.

იდეა დაფუძნებულია დაბალი რანგის ჰიპოთეზაზე: დიდი მოდელის წონების ცვლილებები ადაპტაციის დროს შეიძლება მიახლოებული იყოს დაბალი რანგის მატრიცებით. ყველა პარამეტრის განახლების ნაცვლად, LoRA დამატებით მცირე დაბალი რანგის მატრიცებს არსებულ წონებზე და მხოლოდ მათს სწავლობს.

ეს მნიშვნელოვნად ამცირებს სწავლას საჭირო პარამეტრების რაოდენობას და მეხსიერების მოცულობას, რომელიც საჭიროა ადაპტირებული მოდელის შენახვისთვის, ამავდროულად შენარჩუნებული ხარისხი და მოქნილობა.

დაახლოებით ასე მუშაობს:

# განვიხილოთ, რომ W არის ორიგინალური წონის მატრიცა
# LoRA დამატებით ორ დაბალი რანგის A და B მატრიცებს
# განახლებული წონები: W' = W + B @ A

# ტრენინგის დროს, მხოლოდ A და B განახლდება, W რჩება უცვლელი

ამ გზით, LoRA საშუალებას აძლევს სწრაფად და ეფექტურად ადაპტირდეს დიდ მოდელებს, სრული გადამზადების გარეშე.