Fala-me sobre o LoRA: o que é, como é treinado e como funciona na inferência?

LoRA (Adaptação de Baixo Rango) é um método de adaptação de grandes redes neurais através do treino de um pequeno número de parâmetros, permitindo ajustar modelos de forma eficiente sem necessidade de re-treinamento completo.

Como funciona:

• No modelo original, os pesos da camada são representados por matrizes.
• LoRA adiciona a essas matrizes correções de baixo rango (decomposição em duas matrizes pequenas).
• Durante o treino, apenas essas matrizes de baixo rango são atualizadas, enquanto os pesos originais permanecem congelados.

Treino:

• Apenas um pequeno número de parâmetros é treinado, o que reduz os requisitos de recursos e tempo de treino.
• Permite adaptar rapidamente o modelo a novas tarefas ou dados.

Inferência:

• Durante a inferência, as correções das matrizes LoRA são somadas aos pesos originais, criando um modelo adaptado.
• Isso aumenta ligeiramente os cálculos, mas mantém a eficiência e a compactação.

Pode-se imaginar assim: se a matriz de pesos original for W, o peso final após LoRA é W + BA, onde B e A são matrizes de baixo rango treináveis separadamente.