Чем QLoRA отличается от LoRA?

LoRA (Low-Rank Adaptation) — метод тонкой настройки больших языковых моделей, который добавляет небольшие низкоранговые матрицы к весам модели, позволяя эффективно адаптировать модель с меньшими затратами по памяти и вычислениям.

QLoRA (Quantized LoRA) — расширение LoRA, которое дополнительно использует квантизацию весов модели (например, 4-битное представление) для ещё более эффективного использования памяти и ускорения обучения, сохраняя при этом качество модели.

Основные отличия:

• QLoRA применяет квантизацию к базовой модели, уменьшая размер и требования к ресурсам.
• LoRA работает с полноразмерными весами без квантизации.

Таким образом, QLoRA позволяет тонко настраивать очень большие модели на ограниченных ресурсах, сочетая преимущества LoRA и квантизации.