Расскажи про LoRA: что это такое, зачем нужно?

LoRA (Low-Rank Adaptation) — это метод адаптации больших моделей машинного обучения, особенно трансформеров, с минимальными затратами по памяти и вычислениям.

Идея в том, чтобы не дообучать всю модель, а добавлять небольшие низкоранговые матрицы, которые учатся на новой задаче, оставляя основные веса модели замороженными. Это позволяет быстро и эффективно адаптировать модель под новые данные или задачи без необходимости хранить и обновлять полный набор параметров.

Преимущества LoRA:

• Значительно снижает требования к памяти и времени обучения.
• Позволяет хранить несколько адаптаций для одной базовой модели.
• Удобен для fine-tuning больших моделей на ограниченных ресурсах.

Пример использования — дообучение больших языковых моделей под конкретную предметную область, сохраняя при этом базовые знания модели.