რა არის LoRA შერწყმა და როგორ შეერთება რამდენიმე ადაპტერი?

LoRA ერთიანობა — ეს არის პროცესი, სადაც ერთდროულად ერთიანდება რამდენიმე LoRA (Low-Rank Adaptation) ადაპტერი, რომლებიც წარმოადგენს მსუბუქ მოდულებს დიდი ენის მოდელების (LLM) მინიმალური წონების ცვლილებებით მორგებისთვის.

ყოველი LoRA ადაპტერი ტრენინგდება კონკრეტულ დავალებაზე ან მონაცემთა ნაკრებზე, ხოლო ერთიანობა საშუალებას აძლევს სხვადასხვა ადაპტერების ცოდნის გაერთიანებას ერთ მოდელში, თავიდან ახალი ტრენინგის გარეშე.

როგორ ერთიანდება რამდენიმე ადაპტერი:

1. ადაპტერების წონების მიღება: თითოეული LoRA ადაპტერი ინახავს თავის წონებს დაბალი რანგის მატრიცების სახით.
2. წონების ჯამი: წონების გაერთიანებისთვის, მათი მატრიცები ჯამში შედიან კოეფიციენტებს (წონებს) განიხილავენ, რომლებიც შეიძლება რეგულირდეს თითოეული ადაპტერის წვლილზე.
3. მოდელის განახლება: მიღებული გაერთიანებული წონები ინტეგრირებულია ბაზის მოდელში.

პსევდოკოდი მაგალითი:

merged_weights = alpha1 * lora_weights1 + alpha2 * lora_weights2 + ...
model.update_weights(merged_weights)

სადაც alpha1, alpha2 — კოეფიციენტები, რომლებიც გავლენას ახდენენ თითოეულ ადაპტერზე.

ამ გზით, LoRA ერთიანობა საშუალებას აძლევს ეფექტურად შეაერთოს სხვადასხვა ადაპტერების ცოდნა და გაუმჯობესოს მოდელის შესრულება მრავალ დავალებაზე, სრული გადამზადების გარეშე.