Μίλησέ μου για το LoRA: τι είναι, πώς εκπαιδεύεται και πώς λειτουργεί στην inference;

LoRA (Χαμηλής Τάξης Προσαρμογή) είναι μια μέθοδος προσαρμογής μεγάλων νευρωνικών δικτύων μέσω της εκπαίδευσης ενός μικρού αριθμού παραμέτρων, που επιτρέπει την αποτελεσματική περαιτέρω εκπαίδευση των μοντέλων χωρίς πλήρη επανεκπαίδευση.

Πώς λειτουργεί:

• Στο αρχικό μοντέλο, τα βάρη του επιπέδου αναπαρίστανται ως μήτρες.
• Το LoRA προσθέτει σε αυτές τις μήτρες διορθώσεις χαμηλής τάξης (διάσπαση σε δύο μικρές μήτρες).
• Κατά τη διάρκεια της εκπαίδευσης, ενημερώνονται μόνο αυτές οι μήτρες χαμηλής τάξης, ενώ τα αρχικά βάρη παραμένουν παγωμένα.

Εκπαίδευση:

• Εκπαιδεύεται μόνο ένας μικρός αριθμός παραμέτρων, μειώνοντας τις απαιτήσεις πόρων και χρόνου εκπαίδευσης.
• Επιτρέπει την ταχεία προσαρμογή του μοντέλου σε νέες εργασίες ή δεδομένα.

Εξαγωγή:

• Κατά τη διάρκεια της εξαγωγής, οι διορθώσεις από τις μήτρες LoRA προστίθενται στα αρχικά βάρη, δημιουργώντας ένα προσαρμοσμένο μοντέλο.
• Αυτό αυξάνει ελαφρώς τους υπολογισμούς, διατηρώντας την αποτελεσματικότητα και τη συμπαγή δομή.

Μπορείτε να το φανταστείτε έτσι: αν η αρχική μήτρα βαρών είναι W, το τελικό βάρος μετά το LoRA είναι W + BA, όπου B και A είναι μήτρες χαμηλής τάξης, που εκπαιδεύονται ξεχωριστά.