Mi az a LoRA és miért működik (alacsony rang hipotézis)?
sobes.tech MI
Válasz az MI-től
A LoRA (Low-Rank Adaptation) egy módszer nagy nyelvi modellek (LLM) finomhangolására, amely lehetővé teszi a modell hatékony adaptálását új feladatokra minimális erőforrások felhasználásával.
Az ötlet a low-rank hipotézisen alapul: egy nagy modell súlyainak változásai az adaptáció során alacsony rangú mátrixokkal közelíthetők meg. Ahelyett, hogy az összes modellszabályt frissítenénk, a LoRA kis alacsony rangú mátrixokat ad hozzá a meglévő súlyokhoz, és csak ezeket tanítja.
Ez jelentősen csökkenti a tanulható paraméterek számát és a memóriaigényt az adaptált modell tárolásához, miközben megőrzi a finomhangolás minőségét és rugalmasságát.
Kb. így működik:
# Tegyük fel, hogy W az eredeti súlymátrix
# A LoRA két alacsony rangú A és B mátrixot ad hozzá
# Frissített súlyok: W' = W + B @ A
# Az edzés során csak az A és B frissül, W változatlan marad
Így a LoRA gyorsan és hatékonyan képes nagy modelleket adaptálni, teljes újratanulás nélkül.