Mesélj a LoRA-ról: mi ez, hogyan tanítják és hogyan működik az inferenciában?

LoRA (Alacsony Rangsorú Alkalmazkodás) egy módszer nagy neurális hálózatok adaptálására, amely kis számú paraméter tanításával lehetővé teszi a modellek hatékony finomhangolását anélkül, hogy teljes újra tanításra lenne szükség.

Hogyan működik:

• Az eredeti modellben a réteg súlyait mátrixokként ábrázolják.
• A LoRA ezeket a mátrixokat alacsony rangú korrekciókkal egészíti ki (két kis mátrixra bontás).
• A tanulás során csak ezeket az alacsony rangú mátrixokat frissítik, míg az eredeti súlyok változatlanok maradnak.

Tanulás:

• Csak kevés paraméter tanul, ez csökkenti az erőforrás- és időigényt.
• Gyorsan lehet alkalmazkodni az új feladatokhoz vagy adatokhoz.

Inferencia:

• Az inferencia során a LoRA mátrixokból származó korrekciók hozzáadódnak az eredeti súlyokhoz, így jön létre az adaptált modell.
• Ez enyhén növeli a számításokat, de megőrzi a hatékonyságot és a kompakt szerkezetet.

Ezt így lehet elképzelni: ha az eredeti súlymátrix W, akkor a LoRA utáni végső súly W + BA, ahol B és A külön tanulható alacsony rangú mátrixok.